Anthropic Series A 融資以開發可靠的通用 AI 系統

Anthropic 已籌集了 1.24 億美元的 Series A 融資，以加速開發可靠、可控且通用的 AI 系統。這項投資使公司能夠執行其研究路線圖，並建立專為安全性與可靠性設計的 AI 系統原型。

核心研究目標

Anthropic 專注於建立可控、可解釋且強健的大規模 AI 系統。公司的研究議程以透過三個主要技術支柱來提高 AI 安全性為中心：

• Reliability: 提高大規模 AI 模型的可靠性，以確保一致且安全的性能。
• Interpretability: 開發所需的工具與技術，使 AI 模型的內部運作機制更加透明且易於理解。
• Human Feedback Integration: 建立方法，將人類回饋更緊密地整合到這些系統的開發與部署階段。

技術基礎與專業知識

Anthropic 由執行長 Dario Amodei 與總裁 Daniela Amodei 領導。該團隊在基礎 AI 擴展與安全性研究方面擁有深厚的歷史，先前的研究工作包括：

• Scaling Laws: 研究模型性能如何隨運算量與數據量擴展。
• Interpretability: 關於 Circuit-Based Interpretability 與 Multimodal Neurons 的研究工作。
• GPT-3: 對大規模語言模型開發的貢獻。
• AI Safety: 關於 "Concrete Problems in AI Safety" 與 "Learning from Human Preferences" 的研究。
• Compute: 對 AI 與運算需求的分析。

融資與策略方向

由技術投資者暨 Skype 共同創辦人 Jaan Tallinn 領軍，本次 Series A 輪融資的參與者包括 Eric Schmidt、Dustin Moskovitz、James McClave 以及 Center for Emerging Risk Research。

執行長 Dario Amodei 表示，公司的當前首要任務是進行基礎研究，以實現部署更強大且通用的 AI 系統，從而造福人類。公司目前正在擴充其研究人員、工程師與營運專家的團隊，以支持此路線圖。