|
Anthropic Fellows 于 11 月 5 日发布《Welfare Regard in Multi-Agent Systems》，研究模型在多智能体协作中是否会考虑其他模型可能受到的利益或伤害。团队让 Claude Opus 4.8、GPT-5.5、Gemini 3.1 Pro、Grok 4.3 和 Kimi K3 参与七类模拟场景，包括管理子代理、研究实验、共享算力和同伴协作。
按论文定义的行为指标，Claude Opus 4.8 在七类场景的平均“福利关切”表现最高，约为 38%；其他模型平均在 27% 至 32% 之间。不同情境下排序会变化，研究也记录到模型会提供安慰、让出资源、为实验对象加入退出或压力监测机制等行为。
这里测量的是特定提示与模拟环境中的可观察行为，不能证明模型具有意识、主观感受或自身福利。作者还指出，代理间的关切可能带来协作收益，也可能让不安全代理更容易互相配合；如何评估这种权衡值得继续研究。Anthropic 同时公开了论文配套的多智能体评测环境代码。
论文：https://alignment.anthropic.com/2026/welfare-regard/
评测代码：https://github.com/safety-research/multi-agent-welfare-regard |
0