|
Anthropic于10月23日发布Claude Duet的安全、隐私说明。这款仍处于研究预览阶段的主动代理可在云端持续处理已连接应用中的任务；新文章重点讲的是它如何限制代理代表用户行动，而非新的模型能力。
**Anthropic披露的几项设计**
- 发消息、付款、签署文件或删除内容前，Duet会展示具体动作、目标和内容并等待用户批准；交易证券、账户间转账等操作则被列为禁止事项。另有独立于执行模型的自动检查，用于判断动作是否符合用户意图。
- 单独的敏感信息分类器检查待发送内容：登录凭据、完整银行卡号和政府证件号被列为“不得分享”；健康、财务等信息则需要明确同意。
- 密码、浏览器 Cookie 和应用登录令牌不进入模型工作的机器；云端浏览器与模型运行环境隔离，代理通过固定浏览器指令操作。
- Anthropic称已进行内部红队测试，并由外部渗透测试机构测试；但云浏览器与登录表单的后续测试仍在进行，产品处于研究预览，分类器和审批频率还会继续调整。
这类代理的安全关键不只是“模型会不会拒绝”，还包括权限、凭证、审批与执行环境如何分层。需要注意，以上为厂商公开的设计说明，不等同于独立验证其防护效果。
原文：https://claude.com/resources/articles/claude-duet-safety-privacy-and-security |
0