google-deepmind/gemma

Gemma open-weight LLM library, from Google DeepMind

解決的問題

提供基於 JAX 的實作，用於使用與微調以 Gemini 研究與技術為基礎的 Gemma 系列開源權重大型語言模型（LLM）。

運作方式

本專案以 PyPI 套件（gemma）形式提供，利用 JAX 在 CPU、GPU 或 TPU 上執行。包含用於處理多輪與多模態對話的 ChatSampler API，以及載入模型檢查點與執行微調的工具。

適用對象

希望將 Gemma 模型整合至應用程式中，或使用 JAX 生態系統針對特定任務進行微調的開發者與研究人員。

主要特色

  • 多模態功能：支援包含文字與影像的多輪對話。
  • 硬體彈性：相容 CPU、GPU 與 TPU 硬體。
  • 專為 JAX 設計的函式庫：專為透過 JAX 實現高效能機器學習運算而設計。
  • 支援微調：內建對微調與 LoRA（低秩適應）的支援。

相關

  • 專案
    AI-Hypercomputer/maxtext

    一個以 JAX 寫成的高性能、可擴展 LLM 庫與參考實作，用於在 Google Cloud TPUs 與 GPU 上進行模型訓練與後訓練。

  • 專案
    google/tunix

    一個基於 JAX 的後訓練程式庫，專為 TPU 性能優化，支援大語言模型（LLMs）的可擴展監督微調與強化學習。

  • Dispatch
    Google Gemma 開放式大型語言模型發布

    Google 已發布 Gemma，這是一個基於 Gemini 的開放存取大型語言模型系列，提供 2B 與 7B 參數規模的基礎與指令微調變體。

  • Dispatch
    Gemma 3 版本說明 / 新功能

    Google 已發布 Gemma 3，這是一個多模態、多語言的開放權重 LLM 家族，參數規模從 1B 到 27B，上下文視窗可達 128k 個 token。

  • 專案
    instadeepai/jumanji

    一套使用 JAX 編寫的、多樣化且具備硬體加速能力的強化學習環境套件，適用於高速 RL 研究與實驗。