Boko Haram とフロンティアAI：AIを活用したテロリズムの主張を分析する

Boko Haram の活動における AI 統合の概要

CASP のレポートによると、テロ組織 Boko Haram は、技術的な解決策や戦術的なガイダンスを得るためにフロンティアAIを利用しているとのことです。調査結果によると、このグループは、ディーゼル燃料で銃器を洗浄するといった即座の機械的な問題を解決したり、装備が故障した際に作戦の継続性を維持するために軍事編成を洗練させたりするために AI を使用しています。

反乱軍における AI の報告された使用事例

レポートは、AI が Boko Haram の戦闘員に実行可能なインテリジェンスを提供しているとされる、いくつかの具体的な事例を強調しています。

戦術的展開と部隊規模

AI は、攻撃部隊の規模を最適化するために使用されていると報告されています。レポートは、グループが死傷者を減らし効率を高めるために、大規模な部隊（例：200人の戦闘員）を派遣するのではなく、より小規模で調整された部隊（例：20人の戦闘員）へと移行した事例を引用しています。

技術的および機械的サポート

フロンティアAI は、現場での修理のための技術マニュアルとして使用されているとされています。具体的な例には、「ディーゼルで洗浄して銃を切り離す」方法についてのガイダンスや、武器が詰まった戦闘員が前線を損なうことなく後方に回れるように編成を管理する方法などが含まれます。

特殊な訓練

一部の主張によれば、AI は、障害物を越えてバイクをジャンプさせるといった高リスクな機動のためのステップバイステップの指示を提供したとされており、グループはその後、割れたガラスや火で満たされた溝を使用して、シミュレーション環境でそれを練習しました。

批判的分析と懐疑論

技術的な観察者やアナリストは、これらの主張の信憑性と有用性に関して、大きな疑念を抱いており、主に 3 つの領域に焦点を当てています。

LLM 出力の実行可能性

批判的な人々は、標準的な LLM のガードレールが、爆弾の製造や攻撃の実施に関する真に実行可能な指示の生成を防止していると主張しています。多くの観察者は、「アンセンサード（検閲なし）」または「ジャイルブレイク（脱獄）」されたモデルが、Wikipedia には既に存在する情報を提供することが多く、テロ活動の有効性を高めるために必要な具体的かつ実質的な詳細が欠けてていると指摘しています。

方法論とソースの信頼性

レポートの調査手法に関する分析は、データ収集における潜在的な弱点を指摘しています：

• Small Sample Size: AI に関する知識を持つ個人のインタビューは、わずか 15 名に対して行われました。
• Indirect Testimony: 多くのインタビュー対象者は AI を自身で使ったことがありませんでした。プロンプトを入力できるのは、トップコマンドーや専門部隊のみでした。
• Psychological Warfare: 指揮官が戦闘員の士気を高めるために、AI の使用を捏造、あるいは誇張して、グループを技術的に高度であると見せかける可能性があります。

テクノロジーのコモディティ化

テロ組織による AI の使用は、独自の脅威ではなく、あらゆるコモディティ化されたテクノロジーの使用の継続であると主張する人々もいます。反乱軍が検索エンジン、メール、GPS を使用するように、彼らは今、LLM を使用しているにだけです。批判的な人々は、AI サービスに対する強制的な KYC (Know Your Customer) のような制限的な規制をいました、正当当なユーザーに不当に不利益を及ぼす一方で、断固とした悪意のあるアクタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークタークター厳重に阻止することができないと警告しています。

AI ガードレールの影響

テロ組織が危険な情報を得るために安全フィルターを回避できるという報告された能力は、現在の AI 安全性の実装におけるギャップを浮き彫りにしています。多くの無害なユーザーが「false positives（誤検知）」に遭遇する場合（AI が無害な要求を拒否する場合）、報告された事例は、重大なリスクを伴う「false negatives（偽陰性）」がフロンティアモデルにおける重大な脆弱性として残っていることを示唆しています。