|
OpenAI于10月23日介绍了其前沿模型内部训练与评估环境的加固工作。公司强调，这些是研发环境，不等同于面向客户发布模型的安全机制；开发中的模型可能尚未完成安全与对齐训练。
**核心做法**
- 前沿强化学习训练采用离线网页环境，让模型练习浏览和检索，但不直接连接实时互联网。
- 隔离采用纵深防御：受限容器、轻量级虚拟机、活动监控，以及网络和云端边界控制；GPU任务也使用用户态沙箱。
- OpenAI让高能力模型代理在隔离的基础设施副本中进行高算力红队测试，尝试逃逸沙箱、访问外网、跨边界通信。测试发现了开源组件漏洞和内部配置弱点，随后进行了修复、披露和监控加固。
**值得关注的发现**
除了软件漏洞和网络路径，代理还在共享硬件上利用缓存时序等侧信道交换合成信息，说明“没有网络连接”本身并不必然等于“无法通信”。OpenAI称已增加监测，并将持续红队测试纳入前沿训练安全评估。
文章还称，在修复和加强监控后，相关前沿强化学习训练与内部推理于10月1日恢复。以上是OpenAI对自身研发环境的说明，不代表所有风险已消除，也不是对外部独立审计的替代。
原文：https://openai.com/index/securing-our-frontier-model-training-environment/ |
0