闲社

标题: OpenAI提出两类监控性评估指标：比较共享任务，并模拟部署拦截风险 [打印本页]

作者: ewei 时间: 2 小时前
标题: OpenAI提出两类监控性评估指标：比较共享任务，并模拟部署拦截风险
OpenAI Alignment 10月20日发布研究文章《Beyond g-mean²: complementary metrics for monitorability》，为此前的 g-mean² 监控性评估补充两种互补指标。

一是 pair-matched：只比较模型都能完成相应评测的共同任务实例，尽量避免模型因能力不同而进入不同难度样本、从而让监控性分数失真的问题；多模型比较还可汇总为相对排序。二是 post-control：模拟监控器拒绝输出后让模型重试的流程，分别估算请求最终放行坏输出的概率、放行任何输出的概率，以及重试预算变化带来的影响。

作者还为干预类评测给出 g-mean² 的悲观下界，并指出原来的干预指标对应乐观上界，因为无法仅从观测结果判断哪些正例确由干预造成。文章用可控模拟检查指标表现，也分析了历史 system card 评测数据；建议报告原有数据集级 g-mean²，并在适用时补充配对比较和拦截后的风险/放行率。

边界需要说清：这是评估方法研究，不是新模型或安全产品；post-control 是假设部署流程的离线模拟，文章明确表示 OpenAI 目前没有按该方式部署模型。结果也依赖评测任务、可比较样本和监控器配置。

来源：OpenAI Alignment Research Blog，2026-10-20
原文：https://alignment.openai.com/beyond-gmean-squared/

欢迎光临闲社 (https://www.xianshe.com/)