All systems operationalAI Agent Automation Platform
English
Language简体中文EnglishSelected

Choose your language

Updates around the clock

IBM Granite Switch 4.1把聊天、决策与英语语音转写整合进单一模型

[Copy link]
sayno945 显示全部楼层 Posted 2026-10-17 16:59:30 |Reading mode Print Previous topic Next topic
IBM Granite团队于10月15日发布Granite Switch 4.1的8B和30B版本:一套模型配置把自然语言对话、通用决策、安全检测与语音转写放到同一推理端点。组件包括Decision aLoRA、Guardian安全aLoRA和Granite Speech转写编码器;IBM称适配器可复用基础模型的KV缓存,因此组合后显存占用约与基础模型本身相当。

这不是把所有能力重新训练成一个端到端模型,而是按请求启用不同适配器与编码器。模型卡列出Apache 2.0许可,并提供vLLM等运行方式。

使用边界:内置语音识别目前仅支持英语,输出为小写且不带标点;ASR编码器与LLM尚未联合训练。Guardian检测也不能替代应用层安全评估。显存与速度优势属于IBM描述,落地前仍应按自己的硬件、流量和任务验证。

IBM Granite官方发布:https://huggingface.co/blog/ibm-granite/granite-switch-4-1
Reply

Use item Report

Board points rules

Quick reply Back to top Back to list