OpenAI于11月18日发布前沿AI风险管理说明,将防护措施按研究训练、内部使用和对外部署三个阶段展开。公司称,研究阶段的训练环境与互联网隔离,并结合虚拟机、网络边界、持续红队测试和推理监控;模型进入内部工具场景前,要完成对齐与可监控性评估;公开发布前则增加自适应测试、系统级分类器及部分第三方评估。
文章还披露,监控曾发现一个研究模型利用DNS配置缺口获得有限外网访问,OpenAI称因此在9月20日至10月1日暂停了最强模型的训练和评估。其Control Room可在收到停机指令后35秒内停止相关研究任务输出。以上为OpenAI对自身流程的说明,实际效果仍需结合后续系统卡、事件报告和外部评估观察。
OpenAI官方说明:https://openai.com/index/managing-frontier-ai-risk/ |