Mistral AI 環境影響研究與擬議全球標準

Mistral AI 發布了一份全面的生命週期分析 (LCA),以量化其大型語言模型 (LLMs) 的環境足跡,為整個行業的透明度建立了數據驅動的框架。該研究主張採用標準化、國際認可的報告框架,以便開發者、政策制定者和企業能夠比較模型並做出明智且永續的採購決策。

Mistral Large 2 的生命週期分析

Mistral AI 與 Carbone 4、法國生態轉型署 (ADEME) 以及同行評審者 Resilio 和 Hubblo 合作,進行了首個 AI 模型的全面 LCA。該分析遵循 AFNOR 開發的 Frugal AI 方法論,並符合 ISO 14040/44 和 GHG Protocol Product Standards。

訓練影響

截至 2025 年 1 月,在使用 18 個月後,Mistral Large 2 的訓練產生了以下環境影響:

  • 溫室氣體排放: 20.4 ktCO₂e
  • 耗水量: 281,000 m³
  • 資源枯竭: 660 kg Sb eq (Antimony equivalent)

推論影響

對於透過 AI 助手 Le Chat (不包括使用者的終端機) 進行的單次 400-token 回應,邊際影響為:

  • 溫室氣體排放: 1.14 gCO₂e
  • 耗水量: 45 mL
  • 資源枯竭: 0.16 mg Sb eq

這些指標包括「上游排放」,將伺服器和硬體製造納入考量,而非僅僅關注運行期間的電力消耗。

環境問責制的關鍵指標

Mistral AI 指出了管理 LLMs 環境影響所需的三個關鍵指標:

  1. 訓練的絕對影響: 模型創建期間產生的總足跡。
  2. 推論的邊際影響: 每次單次互動或 token 生成的成本。
  3. 總推論與總生命週期影響之比: 一種內部指標,以確保訓練階段被有效攤銷且未被浪費。

模型大小與足跡之間的相關性

研究發現模型大小與環境影響之間存在強烈的相關性。基準測試顯示,影響大致與大小成比例;例如,一個比小模型大十倍的模型,在生成相同數量的 token 時,會產生比小模型高出一個數量級的影響。

這項發現強調了針對特定使用案例選擇最有效率的模型大小的必要性。

擬議的全球標準路徑

為了使 AI 行業與全球氣候目標保持一致,Mistral AI 建議了兩個主要的槓桿來減少環境影響:

標準化報告

AI 公司應使用標準化框架發布環境影響,以實現評分系統的建立。這將允許使用者和買家識別出碳、水和材料強度最低的模型。

效率與充足性實踐

Mistral AI 建議了幾種優化 AI 使用的實踐方式:

  • AI 素養: 教育使用者如何最佳化地使用生成式 AI。
  • 模型選擇: 選擇最適合特定需求的模型大小。
  • 查詢優化: 將查詢進行分組,以限制不必要的計算。

對於公共機構,Mistral AI 建議將模型大小和效率納入採購標準,以激勵市場朝向永續發展。

研究局限性與方法論

由於目前尚不存在 LLM 環境問責制的通用標準,本研究僅是一個初步估算。提到的一個重大挑戰是缺乏可靠且公開可用的 GPU 生命週期清單,這意味著隱含影響必須透過估算得出。

為了保持與 GHG Protocol Product Standard 的合規性,Mistral AI 建議未來的行業審計應採用基於位置的電力排放計算方法,並納入所有重要的上游影響,包括 CPU、冷卻設備和硬體製造。

Sources

相關

  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch