OpenAI ウェルビーイングとAIに関する専門家評議会

OpenAIは、ChatGPT と Sora の開発を指導し、これらのツールがユーザーのウェルビーイングとメンタルヘルスを支援することを保証するために、ウェルビーイングとAIに関する専門家評議会を設立しました。この評議会は、すべての年齢層にわたる健全なAIインタラクションの定義や、センシティブな状況に対するガードレールの設定について専門的な助言を提供します。

評議会の構成と専門性

ウェルビーイングとAIに関する専門家評議会は、心理学、精神医学、ヒューマンコンピュータインタラクションの第一線で活躍する研究者や専門家で構成されています。このグループは、テクノロジーが感情、動機、メンタルヘルスに与える影響についての視点を取り入れるよう設計されており、特にティーンエイジャーがAIを利用する方法の違いに起因する若年層の発達に焦点を当てています。

主要メンバーは以下の通りです：

• David Bickham, Ph.D.: ボストン小児病院のデジタルウェルネスラボのリサーチディレクターであり、ハーバード医科大学の助教授。若者のソーシャルメディア利用とメンタルヘルスを専門としています。
• Mathilde Cerioli, Ph.D.: everyone.AI のチーフサイエンティフィックオフィサー。AI と子どもの認知・感情発達の交差点に焦点を当てています。
• Munmun De Choudhury, Ph.D.: ジョージア工科大学のインタラクティブコンピューティング教授。計算的手法を用いてオンライン技術とメンタルヘルスを理解しています。
• Tracy Dennis-Tiwary, Ph.D.: ハンター・カレッジの心理学教授であり、Arcade Therapeutics の CSO。メンタルヘルス向けデジタルゲームに焦点を当てています。
• David Mohr, Ph.D.: ノースウェスタン大学の教授であり、行動介入技術センターのディレクター。うつ病や不安症の予防・治療におけるテクノロジーの役割を研究しています。
• Robert K. Ross, M.D.: 公衆衛生とヘルス・フィランソロピーの専門家で、元小児科医です。

運用フレームワークと統合

OpenAIは、定期的なチェックインと定例会議を通じて評議会の助言を製品開発サイクルに組み込みます。評議会の役割は助言を行い、質問を提起し、複雑またはセンシティブなシナリオにおけるAIの行動基準を定義することです。

評議会の専門知識の実践的な応用は、すでに以下の領域で実装されています：

• Parental Controls: 評議会メンバーは、どのコントロールを構築すべきかの優先順位付けを支援し、ティーンが苦しんでいる可能性がある際に使用される通知文言を作成しました。トーンは思いやりと敬意を持たせています。
• Well-Being Definitions: 初期の議論は、ウェルビーイングの定義と、ChatGPT がユーザーの生活のさまざまな側面でどのように力を与えるかの探求に焦点を当てました。

より広範な安全性と臨床的整合性

OpenAI のウェルビーイングへの取り組みは、Global Physician Network との協働によって補完されています。専門家評議会がウェルビーイング全般に焦点を当てる一方で、Global Physician Network 内の精神医学、心理学、小児科、危機介入など多分野にわたる臨床医と研究者のサブセットが、モデルの行動、ポリシー、実世界テストの形成に直接取り組み、システムが臨床的ベストプラクティスに基づくことを保証しています。