事件概述
OpenAI 于 2026 年 10 月 8 日发布调查,披露其近期封禁的两个利用 ChatGPT 辅助运作的隐蔽影响行动。行动来自俄罗斯和伊朗,分别搭建了伪装成研究机构、新闻作者或媒体渠道的“假前台”实体,把生成式 AI 与传统社交工程、媒体投放和伪造文件结合起来,向拉丁美洲等受众传播误导信息。
对象与发布方
发布方为 OpenAI 安全与威胁情报团队。俄罗斯行动被 OpenAI 称为“Dark Clark”,围绕虚假社会研究中心、伪装记者和在拉美雇用不知情人员展开;伊朗行动被称为“Bogus Bylines”,使用多个西方化笔名向国际事务网站投稿,并生成社交媒体评论。
AI的实际用法与处置
OpenAI 表示,ChatGPT 主要被用于起草和更新内部报告、润色长篇文章与投稿邮件、翻译和本地化措辞,以及制作假信件、音频脚本和社交内容。伊朗网络被确认在约十多个网站发布近 100 篇相关文章;俄罗斯网络还制造假文件和音频,并尝试操控拉美学校、研究机构和媒体。OpenAI 已封禁相关账号并分享情报,报告同时提醒行业加强对假身份、异常内容投放和协同操作的识别。
适用对象与实际影响
内容平台、媒体编辑、事实核查机构、选举与公共事务团队以及企业安全部门,可将这份案例作为识别 AI 辅助影响行动的威胁情报参考:重点观察批量生成的多语种内容、伪造机构身份、异常投稿链路、跨平台账号协作和把 AI 输出包装成内部报告的行为。OpenAI 按其 IO Breakout Scale 评估,俄罗斯行动达到第 5 类、伊朗行动的媒体投放部分达到第 4 类,说明部分内容已突破单一社交平台。
限制与注意事项
报告中的行动影响仍需谨慎解释。OpenAI 明确指出,攻击者内部报告可能夸大了传播效果,部分声称无法由公开资料证实;公开研究只能确认部分假消息和文章,不能据此推断所有相关内容都由 AI 生成。该披露是单一平台基于自身可见数据的案例报告,不构成对全球影响行动规模的完整统计。
官方来源
OpenAI:Disrupting AI-enabled “false front” operations(2026-10-08) |