|
微软研究院 11 月 10 日介绍了名为 Lazarus 的模型权重后门研究。研究者称，在不重新训练模型的情况下，改写少于 10 个休眠神经元，就可能让模型在平常表现正常、通过常规评测，却在隐藏触发条件出现时输出恶意命令；如果它被接入终端或其他工具，后续行为会沿用智能体被授予的权限。
这项研究把风险指向模型供应链和部署权限：仅看常规能力评测，未必能说明权重是否被篡改。微软建议关注模型来源与权重完整性、将检查结果和可信基线关联，并限制智能体权限、监控操作及审查高影响动作。微软威胁情报团队表示，尚未观察到攻击者利用这一具体技术；研究同时提醒，扫描不能证明模型绝对安全，因此这些措施应作为纵深防御的一部分。
需要区分的是，这是对一种研究型攻击方法的披露，不等于已有在野攻击或某个具体模型服务遭入侵。对使用开源或自研权重的团队，实务重点是 checkpoint 的来源、变更记录和智能体实际权限。
来源：Microsoft Research（2026-11-10）
https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/
补充：Microsoft Threat Intelligence 对当前威胁状态与防护建议的说明
https://www.microsoft.com/en-us/security/blog/2026/11/10/detecting-sleeper-agents-hiding-in-ai-model-neurons/ |
0