|
IBM Granite团队于10月15日发布Granite Switch 4.1的8B和30B版本：一套模型配置把自然语言对话、通用决策、安全检测与语音转写放到同一推理端点。组件包括Decision aLoRA、Guardian安全aLoRA和Granite Speech转写编码器；IBM称适配器可复用基础模型的KV缓存，因此组合后显存占用约与基础模型本身相当。
这不是把所有能力重新训练成一个端到端模型，而是按请求启用不同适配器与编码器。模型卡列出Apache 2.0许可，并提供vLLM等运行方式。
使用边界：内置语音识别目前仅支持英语，输出为小写且不带标点；ASR编码器与LLM尚未联合训练。Guardian检测也不能替代应用层安全评估。显存与速度优势属于IBM描述，落地前仍应按自己的硬件、流量和任务验证。
IBM Granite官方发布：https://huggingface.co/blog/ibm-granite/granite-switch-4-1 |
0