Flower SuperGrid 代理：透過協作網路擴展 AI
Flower SuperGrid 代理：透過協作網路擴展 AI
協作 AI 前沿
協作 AI 代表了一種從集中式 AI（將資料搬移至中心運算叢集）到去中心化方法（將運算搬移至資料所在）的轉變。這種範式轉變是必要的，因為全球絕大多數高品質資料都存在於私人資料庫中。公共英文網路資料大約有 15 兆個 token，估計有 2,000 兆個 token 隱藏在私人資料庫中未被使用，意味著目前用於基礎模型訓練的可用資料不到 1%。
透過建立協作網路而非更大的單一資料庫，組織可以水平擴展。這讓沒有 AI 背景、擁有獨特資料的公司也能透過訓練模型，利用單一實體無法單獨擁有的資源，提升競爭力。
Flower SuperGrid：去中心化 AI 平台
Flower SuperGrid 是為簡化去中心化 AI 系統部署而設計的基礎層。傳統上，建置此類系統需要數百個手動步驟來完成上線與配置。SuperGrid 透過 flower.ai 上的使用者友善介面，將此複雜度縮減至幾次點擊即可完成。
主要技術能力
- Supernodes：在資料庫上運行的個別節點，執行分散式工作負載。
- Superlink：協調網路的管理者，且不持有任何實際資料。
- 異質機密運算：首次整合允許在單一系統中使用不同供應商的機密運算，這是擴展工作負載的關鍵需求。
- Flower Hub：由社群驅動的去中心化應用程式倉庫，具備信任與審查機制。
- 隔離與可稽核性：強大的隔離模型，提供元件間可稽核的通訊，並支援串流大型模型權重以進行 LLM 訓練。
Project Kaya：協作 AI 代理
目前大多數 AI 代理僅限於公共網路資料或單一組織的私人資料。Project Kaya 是建構於 SuperGrid 上的協作 AI 代理，允許代理在不同組織或資料庫之間溝通，解決單一代理無法獨立完成的任務。
協作代理的運作方式
- 任務分解：協調代理將使用者任務拆解，並向各個 supernode 發送訊息。
- 自主參與：Supernode 完全自主，能根據自身治理原則決定接受或拒絕請求。
- 本地處理：Supernode 上的代理使用本地資料處理請求，資料永不離開所在環境。
- 受控回應：Supernode 操作者可在回應傳回協調者前審查並拒絕敏感資訊。
- 結果聚合：中心代理彙總參與 supernode 的結果，向使用者提供最終答案。
SuperGrid Frontier：去中心化訓練管線
為了使用本地資料改進代理，Flower Labs 提供 SuperGrid Frontier——一套去中心化訓練管線。此管線允許在不搬移底層資料的情況下訓練大型模型，遵循「資料永不移動，只有學習成果移動」的原則。
訓練里程碑與研究
- 通訊效率：SuperGrid Frontier 在去中心化訓練過程中展示了最高 1,000 倍的通訊成本降低。
- Llama 7B（英國版）：Flower Labs 發布了針對英國特別優化的開放權重 Llama 7B 模型，使用 SuperGrid Frontier 管線訓練而成。
- 大規模協作：與美國能源部及 Sandia National Labs 合作，Flower Labs 正在三個不同地點去中心化訓練一個 700 億參數的 LLM。
- 學術貢獻：在 ICLR 2025 發表的研究包括預訓練語言模型的解耦嵌入以及用於 LLM 聯邦預訓練的「Photon」方案。
Flower 生態系統概覽
Flower Labs 正透過三個整合的建構模組推動「協作超智慧」的發展：
| 元件 | 目的 |
|---|---|
| Flower SuperGrid | 用於在分散資料上執行工作負載的去中心化 AI 平台。 |
| Project Kaya | 能在網路間溝通與推理的協作代理。 |
| SuperGrid Frontier | 用於在私人資料上構建模型的去中心化訓練管線。 |
摘要： Daniel Beutel（Flower Labs）介紹了 Flower SuperGrid——一個去中心化 AI 平台，能夠啟用協作 AI 代理與去中心化訓練管線，解鎖目前被私人資料庫囊括的 99% 資料。
標題： Flower SuperGrid 代理：透過協作網路擴展 AI