信頼できる汎用AIシステムのためのAnthropicのシリーズA資金調達

Anthropicは、信頼性が高く、制御可能で、汎用的なAIシステムの開発を加速させるため、シリーズAで1億2400万ドルを調達しました。この投資により、同社は研究ロードマップを実行し、安全性と信頼性を重視して設計されたAIシステムのプロトタイプを構築することが可能になります。

コア研究目的

Anthropicは、制御可能で、解釈可能で、かつ堅牢な大規模AIシステムの構築に注力しています。同社の研究アジェンダは、主に以下の3つの技術的柱を通じてAIの安全性を高めることに重点を置いています。

• Reliability: 大規模AIモデルの信頼性を高め、一貫した安全なパフォーマンスを確保すること。
• Interpretability: AIモデルの内部動作をより透明かつ理解しやすくするためのツールや技術の開発。
• Human Feedback Integration: これらのシステムの開発およびデプロイの両フェーズにおいて、人間のフィードバックをより緊密に統合する方法の構築。

技術的基盤と専門知識

Anthropicは、CEOのDario Amodeiと社長のDaniela Amodeiによって率いられています。チームは、AIのスケーリングと安全性に関する基礎研究において深い歴史を持っており、これまでの実績には以下が含まれます。

• Scaling Laws: モデルのパフォーマンスが計算資源とデータによってどのようにスケールするかに関する研究。
• Interpretability: Circuit-Based InterpretabilityおよびMultimodal Neuronsに関する研究。
• GPT-3: 大規模言語モデルの開発への貢献。
• AI Safety: "Concrete Problems in AI Safety"および"Learning from Human Preferences"に関する研究。
• Compute: AIと計算資源の要件に関する分析。

資金調達と戦略的方向性

テクノロジー投資家でありSkypeの共同創設者であるJaan Tallinnが主導したこのシリーズAラウンドには、Eric Schmidt、Dustin Moskovitz、James McClave、およびCenter for Emerging Risk Researchが参加しました。

CEOのDario Amodeiは、人々に利益をもたらす、より有能で汎用的なAIシステムのデプロイを可能にするための基礎研究が、同社の当面の優先事項であると述べています。同社は現在、このロードマップをサポートするために、研究者、エンジニア、および運用エキスパートのチームを拡大しています。