闲社

标题: OpenAI宣布推出社区安全报告，并加强暴力内容防护 [打印本页]

作者: mgmg 时间: 3 小时前
标题: OpenAI宣布推出社区安全报告，并加强暴力内容防护
OpenAI于10月30日公布两项ChatGPT安全措施：计划推出社区安全报告，并进一步收紧暴力相关内容的回答边界。

公司称，首份社区安全报告计划于2027年初发布，覆盖2026年下半年，之后每半年更新一次。报告将说明系统如何识别、调查和响应社区安全问题，并提供匿名案例、缓解措施变化及相关数据。此次公布的是报告计划，首份报告尚未发布。

产品侧，ChatGPT将减少对既往大规模袭击及实施者的细节性描述，限制适用于所有年龄段；对未成年人，OpenAI还将加强对武器及安防系统实用信息的限制。公司表示，新措施将在未来数周开始推出。

这条消息的重点不只是增加内容限制，也包括承诺定期公开安全措施的运作方式与效果数据。后续可关注首份报告是否提供足以衡量识别、升级处理和干预效果的指标。

来源：OpenAI《Community safety report and new protections for teens》（2026年10月30日）
https://openai.com/index/community-safety-report-and-new-protections-for-teens/

欢迎光临闲社 (https://www.xianshe.com/)