OpenAI の悪意ある AI 利用への備え

OpenAI は、Future of Humanity Institute、Centre for the Study of Existential Risk、Center for a New American Security、Electronic Frontier Foundation などのパートナーと協力し、悪意ある行為者による AI 技術の潜在的な悪用を予測した研究論文を発表しました。この取り組みは、攻撃コストの低下、新たな脆弱性の創出、攻撃の帰属困難性の増大によって引き起こされる世界的な安全保障への脅威を防止・緩和するための枠組みを提供することを目的としています。

AI がもたらすグローバルな安全保障課題

AI 技術は、既存の攻撃の実行コストを削減し、新たな脆弱性をもたらすと同時に、特定の攻撃の帰属を複雑にするため、セキュリティリスクを呈します。報告書は AI を「二重用途」技術として位置付けており、極めて肯定的な用途にも、極めて否定的な用途にも利用できることを指摘しています。

二重用途性とリスク評価

AI ツールは公共の利益にも害にも利用できるため、コミュニティは研究プロジェクトが悪意ある行為者に転用される可能性を評価しなければなりません。二重用途リスクの例としては、

監視ツール: テロリストを捕らえるために使用できる一方で、一般市民を抑圧するためにも利用され得ます。
情報コンテンツフィルタ: 偽ニュースを埋もれさせるために使用できるが、世論操作にも利用可能です。

これらのリスクを緩和するため、報告書は特定の研究に対する事前公開リスク評価、信頼できる組織との機密研究の選択的共有、二重用途に関する科学コミュニティ内の規範設定を推奨しています。

緩和策と提言

報告書は、企業、研究機関、実務者、政府がより安全な AI 環境を実現するためのハイレベルな提言を提供しています。

サイバーセキュリティの実践から学ぶ

AI 研究者は、コンピュータセキュリティコミュニティの手法を取り入れ、脅威の特定と防止に努めるべきです。推奨される実践例は以下の通りです。

レッドチーミング: システムを意図的に破壊・転覆し、弱点を発見する手法。
技術予測: 脅威が顕在化する前に特定できるよう、予測研究に投資すること。
機密報告: AI システムで発見された脆弱性を機密裏に報告するための慣行を確立すること。

社会的議論の拡大

AI は世界的な脅威環境を変容させるため、その安全性とセキュリティに関する議論は、国家安全保障専門家、倫理学者、市民社会、企業、一般市民といった幅広い層を巻き込む必要があります。

AI 悪用の具体的シナリオ

理論的リスクを具体化するため、報告書は AI が悪用され得るいくつかの具体的シナリオを提示しています。

ターゲット型説得: AI が生成した説得力のある広告を、セキュリティシステム管理者に向けて配信する。
自動化サイバー攻撃: サイバー犯罪者がニューラルネットワークと「ファジング」技術を用いて、自己生成型エクスプロイト機能を持つコンピュータウイルスを作成する。
自動化物理攻撃: 清掃ロボットをハッキングし、VIP に爆薬ペイロードを届けさせる。
予測的監視: 脅威国家が AI 強化監視システムを利用し、予測リスクプロファイルに基づいて事前に逮捕を行う。