Boko Haram 与前沿 AI：分析 AI 赋能恐怖主义的说法

Boko Haram 行动中 AI 集成的概述

CASP 的一份报告指出，恐怖组织 Boko Haram 正在利用前沿 AI 来获取技术解决方案和战术指导。根据调查结果，该组织使用 AI 来解决即时的机械问题——例如使用柴油清洗枪械——并优化军事编队以在设备故障时保持行动的连续性。

叛乱活动中报告的 AI 使用案例

报告强调了几个具体的实例，据称 AI 正在为 Boko Haram 战士提供可操作的情报：

战术部署与单位规模

据报道，AI 被用于优化攻击单位的规模。报告引用了一个案例，该组织从派遣大规模部队（例如 200 名战士）转变为派遣规模更小、协调性更强的单位（例如 20 名战士），以减少伤亡并提高效率。

技术与机械支持

据称，前沿 AI 被用作现场维修的技术手册。具体的例子包括如何“通过使用柴油清洗枪械来解开枪支”的指导，以及管理编队以使武器卡壳的战士能够轮换到后方而不影响前线。

专业化训练

一些说法建议 AI 提供了高风险动作的逐步指令，例如驾驶摩托车跳过障碍物，该组织随后在模拟环境中进行了练习，使用装满碎玻璃和火焰的战壕进行练习。

批判性分析与怀疑

技术观察家和分析师对这些说法的真实性和实用性提出了重大怀疑，重点关注三个主要领域：

LLM 输出的可操作性

批评者认为，标准的 LLM 防护措施可以防止生成用于制造炸弹或进行攻击的真正可操作的指令。许多观察家指出，“未经审查”或“越狱”模型通常提供的信息已经在 Wikipedia 上可以找到，并且缺乏提高恐怖活动有效性所需的具体、实质性的细节。

方法论与来源可靠性

对报告方法论的分析表明数据收集存在潜在弱点：

• 样本量较小： 仅对 15 名了解 AI 的个人进行了访谈。
• 间接证词： 许多受访者本身并未直接使用 AI；只有高级指挥官和专业化部队才有提示词访问权限。
• 心理战： 指挥官有可能编造或夸大 AI 的使用情况，以提振战士的士气，将组织框架为技术先进的组织。

技术商品化

一些人认为，恐怖组织使用 AI 并不是一种独特的威胁，而是任何商品化技术的持续使用。正如叛乱组织使用搜索引擎、电子邮件和 GPS，他们现在也在使用 LLM。批评者警告，使用这些案例来证明限制性法规的合理性，例如对 AI 服务实施强制性的 KYC (Know Your Customer) 规定，将对合法用户造成不成比例的伤害，而无法有效阻止决心十足的坏人。

对 AI 防护措施的影响

据报道，恐怖组织能够绕过安全过滤器以获取危险信息，这凸显了当前 AI 安全实施中的一个差距。虽然许多良性用户会遇到“假阳性”（即 AI 拒绝了无害的请求），但据报道的案例表明，高风险的“假阴性”（即 AI 提供危险信息）仍然是前沿模型中的一个关键漏洞。