闲社

标题: Cohere开放Model Vault机密计算公测:H100推理支持发送前远程证明 [打印本页]

作者: ~雨然~    时间: 1 小时前
标题: Cohere开放Model Vault机密计算公测:H100推理支持发送前远程证明
Cohere于10月22日宣布,Model Vault机密计算功能进入公测,运行在Microsoft Azure上的NVIDIA H100 GPU上。根据Cohere的产品说明,客户侧软件可在发送敏感请求前,校验处理环境的硬件、固件和软件配置;请求内容端到端加密,并在通过校验的机密环境中解密和执行。

这项方案瞄准金融调查、临床记录、法律文件和专有代码等敏感企业工作负载,试图让企业在使用托管模型服务时,减少基础设施运营方接触明文数据的机会。需要注意的是,远程证明和硬件隔离并不等于零风险,也不能替代应用安全、合规、合同约束或数据驻留要求;该能力目前仍是公测。

官方来源:
Introducing Confidential Computing on Cohere Model Vault




欢迎光临 闲社 (https://www.xianshe.com/) Powered by Discuz! X5.0