OpenAI、ChatGPTの安全性とウェルビーイングに関する取り組みを更新

OpenAIは、ChatGPTが精神的・感情的な苦痛の兆候を認識し対応する方法を改善するための、120日間にわたる集中イニシアチブを発表しました。この取り組みは、専門的な医療指導を統合し、先進的な推論モデルを活用し、ティーンエイジャーユーザー向けの特定の保護策を導入することで、AIがデリケートな場面でより有用になることを目指しています。

専門家主導の安全フレームワーク

OpenAIは、ウェルビーイングとメンタルヘルスへの対応がエビデンスに基づき医学的に妥当であることを保証するため、主に2つの専門家グループを活用しています：

• Expert Council on Well-Being and AI: 若者の発達、メンタルヘルス、ヒューマン・コンピュータ・インタラクションの専門家グループです。この評議会は、ウェルビーイング指標を定義し、優先順位を設定し、最新の研究に基づいて保護策（親コントロールを含む）を設計します。
• Global Physician Network: 60か国にわたる250人以上の医師からなるネットワークです。そのうち90人以上の医師（小児科医や精神科医を含む）が、メンタルヘルスの文脈におけるモデルの振る舞いに関する研究に既に貢献しており、安全性研究とモデル訓練に活用されています。

OpenAIは現在、このネットワークを拡大し、思春期の健康、物質使用、摂食障害に専門的な知識を持つ臨床医をさらに加える予定です。

危機検知のための推論モデル統合

デリケートなやり取りの際の応答品質を向上させるため、OpenAIは急性の苦痛の兆候を検知するリアルタイムルーターを実装します。これらの兆候が検出されると、システムはユーザーが最初に選択したモデルに関係なく、GPT-5-thinking などの推論モデルに会話を自動的に転送し、より有益な応答を提供します。

ティーン向けの強化された保護策とペアレンタルコントロール

OpenAIは、家族がティーンエイジャー（最低年齢13歳）のChatGPT利用を管理できる新しいツールを導入しています。次の月以内に、以下のペアレンタルコントロールが利用可能になります：

• Account Linking: 親はメール招待を通じて自分のアカウントをティーンのアカウントにリンクできます。
• Behavioral Rules: 親は年齢に適したモデルの行動ルールを管理でき、これらはデフォルトで有効になっています。
• Feature Management: 親はチャット履歴やメモリなど、特定の機能を無効にできます。
• Distress Notifications: システムがティーンが急性の苦痛状態にあると検知した場合、親に通知が送られます。この機能は、専門家の指導のもと、親とティーンの信頼関係を維持するために開発されました。

これらの更新は、長時間のセッション中にユーザーに休憩を促すアプリ内リマインダーなど、既存の機能を基盤としています。