ChatGPT 中的可信联系人：OpenAI 为危机支持推出的新安全功能

概述

可信联系人是 ChatGPT 中的可选安全功能，允许成年人指定一位可信人士，如果自动系统和受过训练的审阅者检测到用户可能以表明严重安全关切的方式讨论自我伤害，则可能会通知该人士。

可信联系人如何运作

用户可以在 ChatGPT 设置中添加一位成年人（全球 18 岁以上，或在韩国为 19 岁以上）作为他们的可信联系人。可信联系人会收到一封说明其角色的邀请，并必须在一周内接受，功能才能激活。如果邀请被拒绝，用户可以选择另一位成年人。

当系统检测到潜在的严重自我伤害风险时，ChatGPT 会告知用户它可能会通知其可信联系人，并提供对话开场白。随后，一个经过专门培训的小团队会审查该情况。如果审阅者判断对话可能表明严重安全关切，ChatGPT 将通过电子邮件、短信或（如果对方拥有 ChatGPT 账户）应用内通知向可信联系人发送简短通知。

隐私与通知细节

该通知有意保持简短：仅说明自我伤害以潜在令人担忧的方式出现的总体原因，并鼓励可信联系人进行关怀。为保护用户隐私，通知不包含聊天细节或记录。通知还附带一链接，提供关于如何处理敏感对话的专家指南。

用户控制与审查流程

用户随时可以在设置中删除或编辑其可信联系人，可信联系人也可以通过帮助中心随时自行移除。每条通知在发送前都会经过受训人员的人工审查，OpenAI 力求在一小时内完成此审查。

与现有安全措施的整合

可信联系人补充了 ChatGPT 中的其他安全措施：

• 鼓励用户在敏感时刻联系紧急服务、危机热线、心理健康专业人士或生活中的可信人士。
• 以关怀的方式回应，基于与 170 多位心理健康专家的合作，检测并响应潜在困扰的迹象，降温对话，并引导用户获得现实世界的支持。
• 通过在长时间使用后建议休息，帮助用户掌控使用时间。
• 拒绝有害请求，包括自杀或自我伤害的指示，并在提供更安全的回应的同时呈现本地化危机资源。

专家观点

“心理学研究始终表明，社会联系是强大的保护因素，尤其在情绪困扰期间。提前帮助人们确定可信人士，同时保留其选择和自主权，可在关键时刻更容易寻求现实世界的支持。” — Arthur Evans 博士，美国心理学协会首席执行官

“人工智能最大的承诺之一是它能够促进真实的人际连接和心理安全。我对 ChatGPT 的可信联系人功能感到鼓舞，它在脆弱时刻为人类赋能迈出了一步。” — Munmun De Choudhury 博士，乔治亚理工学院交互计算 J. Z. Liang 教授，福祉与 AI 专家委员会成员

未来方向

可信联系人是 OpenAI 更广泛努力的一部分，旨在构建在困难时刻帮助人们的 AI 系统。OpenAI 将继续与临床医生、研究人员和政策制定者合作，改进 AI 系统在用户可能经历困扰时的响应方式，力求确保 AI 将用户连接到最重要的现实关怀、关系和资源。