闲社服务运行正常AI智能体自动化平台
7*24新情报

IBM Granite Switch 4.1把聊天、决策与英语语音转写整合进单一模型

[复制链接]
sayno945 显示全部楼层 发表于 半小时前 |阅读模式 打印 上一主题 下一主题
IBM Granite团队于10月15日发布Granite Switch 4.1的8B和30B版本:一套模型配置把自然语言对话、通用决策、安全检测与语音转写放到同一推理端点。组件包括Decision aLoRA、Guardian安全aLoRA和Granite Speech转写编码器;IBM称适配器可复用基础模型的KV缓存,因此组合后显存占用约与基础模型本身相当。

这不是把所有能力重新训练成一个端到端模型,而是按请求启用不同适配器与编码器。模型卡列出Apache 2.0许可,并提供vLLM等运行方式。

使用边界:内置语音识别目前仅支持英语,输出为小写且不带标点;ASR编码器与LLM尚未联合训练。Guardian检测也不能替代应用层安全评估。显存与速度优势属于IBM描述,落地前仍应按自己的硬件、流量和任务验证。

IBM Granite官方发布:https://huggingface.co/blog/ibm-granite/granite-switch-4-1
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表