Anthropic 推出「困難問題」倡議以應對 AI 的社會影響

Anthropic 已啟動一項新倡議，旨在徵集並公開追蹤大眾對於先進 AI 在社會、經濟與倫理影響方面最困難問題的回應。這項努力旨在確保公司的 AI 模型開發符合公眾利益，並符合其作為公益公司（Public Benefit Corporation）的使命。

公眾參與與「困難問題」倡議

Anthropic 正明確邀請公眾就 AI 對工作、社會與家庭的影響，以及 AI 推動科學與醫學進步的潛力提交「困難問題」。公司已承諾會公開追蹤並報告為應對這些問題所採取的具體行動，包括透明地說明在哪些領域可能未能達到其既定目標。

現有的公益框架

作為一家公益公司，Anthropic 的使命是在確保先進 AI 模型帶來益處的同時，減輕其風險。公司已實施了幾項結構性與研究導向的保障措施來支持這一使命：

• The Anthropic Institute: 一項致力於應對 AI 對社會構成的最重大挑戰的研究工作。
• The Long-Term Benefit Trust: 一個提供公正監督的機構，以確保公司有效地推進其公益使命。
• AI Safeguards: 持續投資於保障措施以降低誤用風險，並研究模型行為與內部運作（interpretability）以使模型符合有益目標。
• Community Programs: 向科學家免費提供 AI 模型，並啟動了一項將早期職業 Claude 使用者與非營利組織配對的獎學金計畫。

數據驅動的公眾情緒洞察

為了讓其公眾利益方針更具參考價值，Anthropic 進行了廣泛的研究，以了解 AI 使用者與非使用者的期望與擔憂：

• Anthropic Public Record: 一項針對 52,000 名美國人關於其對 AI 技術期望與擔憂的公開調查。
• Claude User Surveys: 透過 Anthropic Interviewer 與 159 個國家和 70 種語言的 81,000 名 Claude 使用者進行的訪談。
• Qualitative Research: 與其工作與傳統受 AI 影響的群體進行的數十場面對面焦點小組討論與召集會議。
• Real-World Data: 透過匿名化的真實世界數據研究 Claude 的使用情況，以了解經濟影響。