OpenAIとアイスランド政府のパートナーシップ:アイスランド語保存のために
OpenAIはアイスランド政府、非営利の言語技術センターAlmannarómur、そして言語技術企業Miðeind ehfと提携し、GPT-4をアイスランド語保存の取り組みに統合しています。この協力は、アイスランド語がデジタル上で絶滅することを防ぎ、国民が日常的に使用するAIアプリケーションやソフトウェア内で言語が機能的かつ正確に保たれることを目的としています。
RLHFを活用したリソースが少ない言語課題の解決
人間のフィードバックによる強化学習(RLHF)は、GPT-4のアイスランド語における熟練度を向上させ、リソースが少ない言語に対する従来のファインチューニングの限界を克服するために使用されています。GPT-4は前バージョンに比べて本質的に高性能ですが、当初はアイスランド語で文法エラーや誤った文化的知識を生成していました。
この課題に対処するため、Miðeind ehfが率いる40人のボランティアチームが、以下のようなRLHFプロセスを実装しました。人間のテスターは:
- GPT-4にプロンプトを提供する。
- 生成された4つの回答をレビューする。
- 最良の回答を選び、理想的な完成形になるように編集する。
このフィードバックループはモデルのさらなる学習に利用されます。この手法は、30万例にもかかわらず文法的に正しいアイスランド語を生成できなかったGPT-3のファインチューニング試みよりもはるかに効率的です。対照的に、RLHFはわずか100例でも有意義な結果を得られ、他の「ロングテール」やリソースが少ない言語が「AI格差」を回避するための実行可能な道筋となります。
言語的・文化的精度の向上
GPT-4は、アイスランド語の取り扱いにおいて、特に文化的ニュアンスや正確な翻訳に関して、GPT-3およびGPT-3.5に比べて顕著な改善を示しています。
翻訳精度
この改善の一例として「ドナルドダック」の翻訳があります。GPT-3やChatGPT(GPT-3.5)が誤った回答を示したのに対し、GPT-4はアイスランド語名を正しく「Andrés Önd」と特定しました。
文化的・文脈的認識
GPT-4はプロンプトの言語に応じて異なる応答を示し、ローカライズされた文脈を提供します:
- アイスランド語のプロンプト: 議員数について尋ねられた際、GPT-4はアイスランド議会(Alþingi)が63名であることを正しく特定しました。
- 英語のプロンプト: 同じ質問を英語で行うと、モデルはイギリス、カナダ、インド、オーストラリアなど複数国の議員リストを一般的に提示しました。
- 大統領に関する文脈: アイスランド語で大統領は誰かと尋ねた際、モデルは2021年時点での Guðni Th. Jóhannesson を正しく特定しました。
実用的な応用と将来の目標
このパートナーシップの最終目標は、アイスランド企業が英語に依存せずにGPT-4をインタラクティブなアプリケーションに導入できるようにすることです。これにより、母語がデジタルインタラクションのデフォルト言語として維持されます。
- 音声アシスタント: Miðeindが提供する音声アシスタントアプリ「Embla」は、バックエンドにGPT-4を使用し、流暢なアイスランド語の会話と翻訳を提供します。
- ビジネス統合: アイスランド企業は、英語ベースの代替手段に頼ることなく、ウェブサイト上にアイスランド語のネイティブチャットボットを実装できます。
これらの進展にもかかわらず、チームは残存する文法やスペルミスを排除するためにモデルの改良を続けており、アイスランド語で複雑かつ創造的なアプリケーションを支えることができるようにしています。