ChatGPTのTrusted Contact：OpenAIの新しい危機支援安全機能

概要

Trusted Contactは、ChatGPTのオプションの安全機能で、成人が信頼できる人物を指名できるようにします。その人物は、システムと訓練されたレビューアが、ユーザーが深刻な安全上の懸念を示す形で自己傷害について話していると検出した場合に通知される可能性があります。

Trusted Contactの仕組み

ユーザーは、ChatGPT設定から1人の成人（世界的に18歳以上、韓国では19歳以上）をTrusted Contactとして追加できます。Trusted Contactには役割を説明する招待が送られ、機能を有効にするためには1週間以内に受諾する必要があります。招待が辞退された場合、ユーザーは別の成人を選択できます。

システムが潜在的な深刻な自己傷害の懸念を検出した場合、ChatGPTはユーザーにTrusted Contactに通知する可能性があることを伝え、会話のきっかけを提案します。その後、特別に訓練された少人数のチームが状況をレビューします。レビューアが会話が深刻な安全上の懸念を示すと判断した場合、ChatGPTはTrusted Contactにメール、テキストメッセージ、またはChatGPTアカウントを持っている場合はアプリ内通知で簡潔な通知を送ります。

プライバシーと通知の詳細

通知は意図的に限定されています：自己傷害が潜在的に懸念される形で話題になったという一般的な理由のみを共有し、Trusted Contactに様子を伺うよう促します。ユーザーのプライバシー保護のため、チャットの詳細や文字起こしは含まれません。また、通知にはデリケートな会話を進めるための専門家ガイダンスへのリンクが含まれています。

ユーザーコントロールとレビュー手順

ユーザーは設定でいつでもTrusted Contactを削除または編集でき、Trusted Contactはヘルプセンターからいつでも自ら削除できます。すべての通知は送信前に訓練された人間によるレビューを受け、OpenAIはこのレビューを1時間以内に完了するよう努めています。

既存の安全策との統合

• 感情的にデリケートな瞬間に、ユーザーが緊急サービス、危機ホットライン、メンタルヘルスの専門家、または身近な信頼できる人に連絡するよう促す。
• 170人以上のメンタルヘルス専門家との協働に基づき、潜在的な苦痛のサインを検出・対応し、会話をエスカレーションさせず、ユーザーを現実の支援へ導く配慮ある応答。
• 長時間使用後に休憩を提案することで、ユーザーが時間を管理できるよう支援する。
• 自殺や自己傷害に関する指示など有害なリクエストを拒否し、より安全な回答へリダイレクトするとともに、地域の危機リソースを提示する。

専門家の見解

“心理学の研究は一貫して、社会的つながりが特に感情的な苦痛の期間において強力な保護要因であることを示しています。人々が事前に信頼できる人物を特定できるよう支援し、選択と自律性を保つことで、最も重要な時に現実の支援へ手を伸ばしやすくなります。” — Dr. Arthur Evans, アメリカ心理学会（APA）最高経営責任者

“AIの最大の約束の一つは、真に人と人とのつながりと心理的安全性を育むことです。私はChatGPTのTrusted Contact機能に励まされています。この機能は、特に脆弱な瞬間において人間のエンパワーメントへの一歩前進を提供します。” — Dr. Munmun De Choudhury, Ph.D., ジョージア工科大学（Georgia Tech）インタラクティブコンピューティング教授、Well‑Being and AI専門家会議メンバー

今後の方向性

Trusted Contactは、困難な瞬間に人々を支援するAIシステムを構築するというOpenAIの広範な取り組みの一部です。OpenAIは、臨床医、研究者、政策立案者と協力し、人々が苦痛を経験している可能性がある際にAIシステムがどのように対応するかを改善し続け、AIがユーザーを最も重要な現実のケア、関係、リソースへつなげることを目指します。