OpenAI のメンタルヘルス安全性アップデートと訴訟状況

OpenAI は成人ユーザー向けに信頼できる連絡先機能を導入し、感情的苦痛の検出能力を強化するとともに、カリフォルニア州でのメンタルヘルス関連訴訟の統合に対応しています。

OpenAI のメンタルヘルス安全性アップデートと訴訟状況

信頼できる連絡先機能とペアレンタルコントロール

OpenAI は、成人ユーザーが追加サポートが必要になる可能性がある際に通知を受け取る人物を指定できる信頼できる連絡先機能を導入しています。この機能は、ウェルビーイングとAIに関する評議会（Council on Well-Being and AI）およびグローバル・フィジシャンズ・ネットワーク（Global Physicians Network）と協力して開発されています。

これは、2025年9月に導入されたペアレンタルコントロールに続くもので、OpenAI は家族からの好意的な利用が見られると述べています。現在、保護者はこれらのコントロールを通じて、ティーンエイジャーの ChatGPT 利用に関する安全通知を受け取っています。

感情的苦痛検出の強化

OpenAI は、感情的苦痛の兆候を検出し対応するモデルの能力を引き続き向上させています。そのために、同社は長時間にわたるメンタルヘルス関連の会話をシミュレートする新しい評価手法を導入しています。これらのシミュレーションは、潜在的リスクを特定し、センシティブな場面での ChatGPT の応答をより効果的に改善することを目的としています。

メンタルヘルス関連訴訟の状況

別件として、裁判所はカリフォルニア州で ChatGPT に関わる複数のメンタルヘルス関連訴訟を単一の手続きに統合しました。今後数日以内に調整裁判官が任命される予定です。OpenAI は、原告側の弁護士がこの統合プロセスの一環として追加の新訴訟を提起する意向を裁判所に通知したことを指摘しています。

OpenAI は、以下の四つの指針に基づいてこれらの法的手続きを扱うと述べています：

• 事実に基づくアプローチ: 事実から出発し、真摯に理解しようと努めること。
• 敬意ある擁護: 実在する人々が関わる状況の複雑さとニュアンスを認識しつつ、主張を行うこと。
• プライバシーへの配慮: これらの訴訟がプライベートな情報を含み、公開の法廷での配慮が必要であることを認識すること。
• ミッションへの集中: 訴訟に左右されず、技術の向上に専念すること。

OpenAI は、裁判手続きを通じて取得する情報は、訴訟および具体的な主張に関連するものに限ると述べています。同社は、これらの訴訟が複雑で微妙であることを強調し、メンタルヘルスの臨床医や専門家と協力して、ChatGPT のトレーニングを改善し、苦痛を認識し、センシティブな会話をエスカレーションさせず、ユーザーを実際の支援へ導くことに取り組んでいると述べています。