Cohere开放Model Vault机密计算公测：H100推理支持发送前远程证明

Cohere于10月22日宣布，Model Vault机密计算功能进入公测，运行在Microsoft Azure上的NVIDIA H100 GPU上。根据Cohere的产品说明，客户侧软件可在发送敏感请求前，校验处理环境的硬件、固件和软件配置；请求内容端到端加密，并在通过校验的机密环境中解密和执行。

这项方案瞄准金融调查、临床记录、法律文件和专有代码等敏感企业工作负载，试图让企业在使用托管模型服务时，减少基础设施运营方接触明文数据的机会。需要注意的是，远程证明和硬件隔离并不等于零风险，也不能替代应用安全、合规、合同约束或数据驻留要求；该能力目前仍是公测。

官方来源：
Introducing Confidential Computing on Cohere Model Vault