闲社服务运行正常AI智能体自动化平台
7*24新情报

Anthropic称Claude蒸馏防护使推理数据提取量降至1/10至1/100

[复制链接]
wesoho 显示全部楼层 发表于 半小时前 |阅读模式 打印 上一主题 下一主题
事件概述:Anthropic于2026年10月12日发布Claude反蒸馏防护说明,介绍其近期针对未经授权提取模型能力、用于训练其他模型的行为所采取的措施。以下成效数字均为Anthropic对自家平台数据的估算或报告。

对象与发布方:发布方为Anthropic Research,涉及Claude API及目前可用的Claude Sonnet 5.5、Opus 5/5.5、Fable 5/5.1等模型。

关键措施:Anthropic称其采用多层防护,包括限制新API账户编辑Claude此前上下文、阻止较弱防护模型读取受保护推理内容、将部分推理记录限定在发起请求的组织内,以及用两阶段分类器识别试图提取推理内容的请求;对持续尝试的账户还会加强限流或封禁。Anthropic表示,新分类器已覆盖其最具能力的通用可用模型。

披露结果与适用对象:Anthropic估计,在其平台上,实施防护后蒸馏者提取到的推理token数量通常比此前低10至100倍,并称已封禁数万个相关账户。该信息对模型开发者、API平台和需要保护模型推理数据的服务运营方有参考价值;这是厂商自报的内部平台结果,并非独立审计或跨平台评测。

实际影响与限制:措施可能提高批量套取模型输出的难度,但不能证明所有蒸馏攻击都已被阻止。Anthropic也指出,部分开发者需调整集成;分类器误判率低于0.1%,但正常请求仍可能被误拦,且某些被拦截请求会收费。公司称攻击与防护仍是持续演进的对抗过程。

官方来源(发布日期:2026年10月12日):https://www.anthropic.com/research/distillation-defenses
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表