OpenAI、Cohere、AI21 Labs の言語モデル展開に関するベストプラクティス
OpenAI、Cohere、AI21 Labs は、大規模言語モデル（LLM）を開発または展開する組織向けに、初期的なベストプラクティスのセットを策定しました。これらのガイドラインは、強力な AI 技術に伴うリスクを軽減し、人間の能力を補完しつつ被害を最小限に抑えることを目的としています。
言語モデルの誤用禁止
LLM の提供者は、技術が悪意ある目的で使用されることを防ぐために、厳格な利用ガイドラインと技術的インフラを実装すべきです。
- 利用ガイドラインと利用規約: 提供者は、社会、個人、コミュニティに対する実質的な害を禁じる明確な条件を公表しなければなりません。これには、スパム、詐欺、アストロターフィング（偽装された世論形成）に LLM を使用することの禁止が含まれます。さらに、保護された属性に基づく人々の分類など、追加の審査が必要または完全に禁止されるべき高リスクの使用ケースを特定すべきです。
- 執行インフラ: 利用ガイドラインの遵守を確保するために、提供者はレートリミット、コンテンツフィルタリング、プロダクションアクセスのためのアプリケーション承認プロセス、異常な活動の監視などのシステムを構築すべきです。
意図しない害の軽減
予防策だけでは意図しない害の可能性を完全に排除できないため、提供者はモデルの挙動に積極的に対処し、残存する脆弱性について透明性を保たなければなりません。
- 積極的な緩和: 提供者は、制限を評価するために包括的なモデル評価を実施し、人間のフィードバックから学習するなどの手法を用いて安全でない行動を最小化すべきです。また、訓練コーパス内のバイアスの潜在的な原因を最小化する努力も必要です。
- 弱点の文書化: 提供者は、モデルが不安全なコードを生成する能力や固有のバイアスなど、既知の脆弱性を文書化しなければなりません。この文書には、モデルおよびその想定使用ケースに特化した安全ベストプラクティスを含めるべきです。
ステークホルダー協働と倫理的労働
責任ある展開には、多様な視点と業界全体の透明性が必要であり、モデルが実世界でどのように機能するかに対処する必要があります。
- 多様なチーム: 組織は、多様な背景を持つチームを構築し、モデルがバイアスを強化したり特定の人々に対して失敗したりしないようにすべきです。
- 公開開示: LLM の安全性と誤用に関する教訓を公開し、業界横断的な改善と安全基準の広範な採用を促進すべきです。
- 労働基準: 提供者は、LLM サプライチェーンに関わるすべての労働を尊重しなければなりません。これには、社内でモデル出力をレビューする作業者の労働条件を高水準に保ち、外部ベンダーが明確に定められた基準を遵守すること、例えばラベラーが特定のタスクからオプトアウトできるようにすることが含まれます。
業界の支援と見解
この共同提言は、さまざまな AI 組織や研究センターから支持を受けており、業界協力の重要性が強調されています。
"LLM は多くの可能性を秘めていますが、取り組むべき重大な固有の安全性問題があります。これらのベストプラクティスは、モデルの害を最小化し、潜在的な利益を最大化する重要なステップです。"
—Anthropic
"大規模言語モデル（LLM）はますます強力かつ表現力豊かになっているため、リスク緩和がますます重要になっています。我々は、これらの取り組みや、ユーザーに対して追加の注意が必要な領域をハイライトする努力を歓迎します。"
—John Bansemer, Director of the CyberAI Project and Senior Fellow, Center for Security and Emerging Technology(CSET)
"Google は、モデルと訓練データの分析における包括的な戦略の重要性を確認しており、害、バイアス、誤表現のリスクを軽減することを強調しています。"
"大規模言語モデルの可能性を実現するためには、業界として協力し続け、責任ある開発と展開のベストプラクティスを共有し、潜在的リスクを軽減しなければなりません。"
—Microsoft
"基盤モデル、特に大規模言語モデルの安全性は、社会的関心が高まっています。我々は、Cohere、OpenAI、AI21 Labs が責任ある開発と展開のための高レベル原則を概説する第一歩を踏み出したことを称賛します。"
—Percy Liang, Director of the Stanford Center for Research on Foundation Models(CRFM)