OpenAI 打击 “High Five” 行动影响宣传活动

OpenAI 已封禁多个与菲律宾商业营销公司 Comm&Sense Inc 关联的 ChatGPT 账户，原因是违反了使用 AI 生成大规模政治影响内容的政策。该行动被称为 “High Five”，利用 ChatGPT 分析社交媒体趋势，生成英文和 Taglish（菲律宾式英语） partisan 评论，并为该隐蔽行动制作宣传材料。

“High Five” 行动：参与者与方法论

Comm&Sense Inc 利用 ChatGPT 自动化菲律宾受众政治影响宣传活动的多个阶段。该参与者使用模型对涉及政治事件的社交媒体帖子进行内容分析——特别是涉及总统 Bongbong Marcos 的帖子——以确定回复的合适主题。

确定主题后，参与者使用 ChatGPT 生成大量简短评论，通常不超过十个词，以在社交媒体平台上发布。此外，还利用模型生成公关稿件和统计分析，以向现有和潜在客户推销该隐蔽影响行动。

平台分发与执行

该行动通过以下策略在 TikTok 和 Facebook 上投放内容：

• TikTok: 该行动管理了五个专用的 TikTok 频道，始于 2025 年二月中旬开始发布。这些频道发布相同的视频但配以不同的标题，且使用数十个 TikTok 账户在这些视频下发布 AI 生成的评论。
• Facebook: AI 生成的评论被发布在主流媒体新闻报道的回复中。OpenAI 指出，没有迹象表明这些主流媒体与该行动有关联。

内容特征与信息传递

生成的内容简短且偏袒，主要聚焦于赞扬 Marcos 总统及其倡议，或批评副总统 Sara Duterte。有些评论特别将副总统 Duterte 称为 “Princess Fiona”，可能是引用《怪物史瑞克》系列电影。虽然大部分内容是政治性的，但少数生成的内容包含商业营销材料，暗示该公司代表多个客户开展业务。

影响与效果

尽管在 TikTok 和 Facebook 上发布了数千条评论，该行动的自然传播仍然有限。OpenAI 的调查发现，所识别的评论没有一条获得超过个位数的点赞、分享或回复，大多数甚至没有任何互动。

依据布鲁金斯学会的 Breakout Scale（突破量表）衡量影响行动，OpenAI 将此活动归类为第 2 类。该分类表明，尽管活动跨多个平台进行，但几乎没有证据显示真实用户广泛分享或互动此内容。

在最初封禁账户后，OpenAI 观察到威胁行为者基于技术和行为指标多次尝试重新使用模型。