闲社服务运行正常AI智能体自动化平台
7*24新情报

Anthropic更新Claude使用政策:新增欺骗活动条款并强化高风险场景监督

[复制链接]
光脚追你 显示全部楼层 发表于 1 小时前 |阅读模式 打印 上一主题 下一主题
事件概述:Anthropic于2026年10月8日发布2026年Claude Usage Policy更新,称本次主要是把随着模型能力增强而出现的滥用模式和既有执行规则写得更清楚。新版政策将于2026年11月12日生效。

发布方与对象:政策由Anthropic面向Claude产品用户、API开发者、企业客户和安全团队发布,涉及影响选举、武器开发、监控、健康、金融、法律权益和自主物理行动等高风险场景。

关键能力与改动:新版新增“不得参与欺骗性活动或人工活动”专门章节,明确禁止用Claude隐藏幕后主体、运营虚假账号或伪造新闻网站,以及为影响行动搭建工具和基础设施;选举部分聚焦不得欺骗选民或干扰民主流程,同时移除对个性化投票/竞选定向的笼统禁止,但欺骗、监控和隐私滥用仍不允许。武器条款明确覆盖让武器工作的软件和组件,以及给无人机或其他自主载具上武器。监控与刑事司法部分禁止未经同意追踪个人、让Claude决定或建议调查/逮捕/起诉对象,或构建改进监控工具。对于影响健康、法律权利、财务、生计或基本服务的建议,仍要求有权修改建议的合格人员参与,并告知受影响者使用了AI;连接到可能造成伤害的自主硬件时,还要求合格操作员可观察并停止设备,Claude断开后设备能保持安全状态。

适用对象:使用Claude做内容运营、选举相关工作、安防监控、金融审核、医疗或法律流程、机器人和工业设备控制的团队,尤其适合在上线前对照政策审查数据流、权限和人工复核节点。

实际影响与限制:更新把分散的禁用项集中起来,帮助开发者在更长、更自主的任务中做合规边界判断;但Anthropic强调许多限制并非新禁令,而是对既有执行实践的明确化。政策文本不是技术安全保证,也不会自动替代企业的风险评估、权限隔离、审计和人工审批;具体功能可用性还受产品、地区、账户和合同条件影响。

官方来源:https://www.anthropic.com/news/2026-usage-policy-update
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表