OpenAI 通用人工智慧 (AGI) 開發的運營原則

OpenAI 通用人工智慧 (AGI) 開發的運營原則

OpenAI 已制定一套指導原則，旨在確保通用人工智慧 (AGI) 的開發惠及全人類。該組織強調，儘管 AI 有潛力顯著提升個人能動性和社會繁榮，但最終結果取決於當前所做的決策，以防止權力集中並管理新興風險。

AI 權力的民主化

OpenAI 旨在防止 AI 權力被少數公司壟斷。為此，該組織主張採取去中心化的方法，使通用人工智慧盡可能為更多人所使用。這種民主化不僅限於對技術的簡單訪問；OpenAI 認為，關於 AI 的重大決策應該透過民主程序和平等原則來制定，而不應該僅由 AI 實驗室單方面決定。

能力賦予與使用者自主權

OpenAI 將 AI 視為一種工具，旨在幫助個人實現目標、學習並追逐夢想。該組織的產品策略著重於使用戶能夠可靠地完成日益增值的任務，同時提供滿足多樣化全球需求所需的自主權與彈性。

為了在賦能與安全之間取得平衡，OpenAI 在面臨不確定性時採取謹慎優先的政策。目標是將災難性損害以及局部或具腐蝕性的社會影響降至最低，僅在收集到更多證據時才放寬限制。

普惠繁榮的策略

OpenAI 認為，提供易於使用且擁有強大運算能力的 AI 系統可以推動新價值的創造並提升生活品質，特別是透過科學發現。為實現這個普惠繁榮的願景，OpenAI 確定了兩項主要需求：

1. 經濟模式演變：政府可能需要考慮新的經濟模式，以確保廣泛參與價值創造。
2. 基礎設施擴充：需要建立龐大的 AI 基礎設施，並開發新技術以降低該基礎設施的成本。

OpenAI 指出，其在運算與全球數據中心擴充方面的投資，以及向垂直整合發展的舉措，都是出於降低成本、提高可及性的目標。

韌性與迭代部署

OpenAI 指出，AI 帶來的新風險無法由單一實驗室獨自解決。該組織強調需要全社會層面的風險管理方法，並舉出兩個具體例子：

• 生物安全：防禦新病原體的產生需要與病原體無關的對策。
• 網路安全：利用 AI 模型保護開源軟體與關鍵基礎設施，同時訓練模型協助使用者創建更安全的軟體。

OpenAI 採用迭代部署策略，使社會能夠隨時間應對、整合並理解每一個逐步提升的 AI 能力層級。這同時也得到了技術對齊工作的補充，以及承諾與政府和國際機構合作，在進一步開發之前解決嚴重的安全或社會問題。

適應性與透明度

OpenAI 認識到 AI 的 emergent 行為（新興行為）難以預測。因此，該組織承諾保持適應性，並根據所學到的內容更新其立場。這包括在某些時期可能犧牲部分使用者賦能，以換取更高的韌性。

OpenAI 以 GPT-2 初次發布的經驗為基礎，表示它會謹慎推進能力並從真實世界互動中學習，以擁抱不確定性。該組織承認其全球影響力的提升，並承諾在其運營原則何時以及為何改變時保持透明。

摘要: OpenAI 已概述五項核心原則——民主化、能力賦予、韌性、普惠繁榮與適應性——以確保通用人工智慧 (AGI) 惠及全人類。