OpenAIとポーランドのNASKがAIの安全性とセキュリティで提携

OpenAIとポーランドのNASK国立研究所は、AIの安全性、セキュリティ、技術研究における協力の可能性を探るための合意書に署名しました。この提携が重要なのは、政府支援によるAI安全研究所のネットワークに国立の公的研究機関が加わることになり、またNASKのCERT PolskaがすでにOpenAIのサイバー対応モデルを使用して、広く展開されているネットワーク機器の実際の脆弱性を発見しているからです。

合意の内容

この合意は、製品リリースではなく、協力のための枠組みです。これに基づき、NASKのAI安全研究センター（ポーランドAI安全研究所（AISI）として機能）とOpenAIは、AI安全研究で協力します。

共同作業の対象となる分野は以下の通りです：

• より高度なAIシステムを評価する方法の探求。
• それらのシステムにおける潜在的な脆弱性の特定。
• 安全対策の強化。

両組織は、双方の専門知識を結集し、新たなリスクの理解を深め、安全対策を強化し、高度なAIがより安全で回復力のあるデジタルエコシステムにどのように貢献できるかを探求することを目標としています。

OpenAIがこれを国際的な取り組みと位置づける理由

OpenAIは、AIシステムがより高度になるにつれて、開発者と公的研究機関との国際的な協力が、そのリスクを理解し、より強力な安全対策を構築するために不可欠になると述べています。

同社は、米国のCAISSI（超知能のための標準と革新を推進するセンター）や英国のAI安全研究所（AISI）など、公的研究機関との既存の協力関係を挙げています。OpenAIによると、その取り組みはすでに安全対策の強化、AIエージェントのセキュリティ脆弱性の特定と修正、フロンティアAIの安全性の向上に貢献しています。

OpenAIは別途、米国が世界各国と協力してフロンティアAIに関する国際技術標準を策定し、AI安全研究所や標準化団体の専門知識を活用するよう求めています。同社は、能力評価、リスク評価、安全対策のテスト、インシデント報告に関する共通のアプローチが、各国が証拠を比較し、国境を越えるリスクに対応するのに役立つと主張しています。NASKとの協力は、その広範な取り組みに各国の専門知識を持ち込む例として提示されています。

NASKの役割とポーランドの文脈

NASKの貢献は、公共サービスとポーランドのデジタル情報エコシステムの保護に直接適用されるAI安全に関する広範な研究に基づいています。OpenAIの投稿は、なぜ国内パートナーが重要なのかについて具体的な主張をしています：NASKのような国内パートナーがいなければ、グローバルなAI安全基準は、AIが実際に使用される現実から乖離したままになる可能性があります。

この枠組みは、AI安全研究所を、抽象的な国際基準と、AIシステムが展開される具体的な環境（公共サービス、国のデジタルインフラ）との間の橋渡しとして位置づけています。

これまでの実績：CERT PolskaとMikroTik RouterOSの脆弱性

この合意は、OpenAIとポーランドのサイバー防御者との間の既存の協力関係に基づいています。7月、NASK内で活動するCERT Polskaは、Daybreakを通じてOpenAIのサイバー対応モデルへのアクセスを獲得しました。

発表によると、チームはOpenAIのモデルを使用して、MikroTik RouterOSの6つの脆弱性を発見するのに貢献しました。これには、認証なしで影響を受けるデバイスを制御するために組み合わせることができる欠陥も含まれます。ベンダーは修正プログラムをリリースし、CERT Polskaはそれが観察された攻撃を防いだことを確認しました。

これがこの提携の具体的な前例として挙げられています：国のコンピュータ緊急対応チームがフロンティアモデルを使用してネットワーク機器の実際のセキュリティ欠陥を発見し、修正を支援し、ベンダーがパッチを提供し、修正が観察された攻撃に対して検証されたという事例です。

発表が述べていることと述べていないこと

この投稿は、協力の可能性を探る合意を説明し、意図された研究分野を列挙しています。資金、人員、スケジュール、成果物、または共同のベンチマークや評価結果については明記されていません。唯一の定量化された成果は、以前のCERT Polskaの作業です：MikroTik RouterOSで6つの脆弱性が発見され、ベンダーの修正がCERT Polskaが観察した攻撃を防いだことが確認されました。