google-deepmind/simply
Minimal and scalable research codebase in JAX, designed for rapid iteration on frontier research in LLM and other autoregressive models.
解決する課題
最先端のLLM研究のために、最小限でスケーラブルな研究用コードベースを提供します。新しいオプティマイザ、学習損失、またはRLアルゴリズムなどの新しいアイデアを、研究者(人間およびAIエージェントの両方)が実装し、反復するのにかかる時間を短縮することを目指しています。
仕組み
JAXで構築されたこのコードベースは、自己完結型で改変しやすいように、最小限の抽象化と依存関係で設計されています。ローカルマシン、Google Cloud TPU、およびXPKを使用したGKEでの実験実行をサポートしています。自動化された研究を促進するために、AIエージェントがコードを読み、アイデアを提案し、自律的に実験を実行できるようにするための組み込みのエージェントハーネス(Amplioなど)が含まれています。
対象者
迅速なLLM実験のための軽量でスケーラブルなフレームワークを求めるAI研究者や開発者、およびAIエージェントを使用して研究プロセスを自動化することに興味がある方。
ハイライト
- ミニマリスト設計: JAXを使用し、フォークや修正が容易なシンプルで自己完結型のコードベースを実現しています。
- 自動化された研究: AIエージェントが自律的に新しいLLMコンポーネントを設計し、ベンチマークを実行できる環境として特別に設計されています。
- スケーラブルなインフラストラクチャ: Cloud TPUおよびGoogle Kubernetes Engine (GKE) をネイティブにサポートしています。
- エージェントハーネス: 組み込みのエージェントハーネスと、永続性とWeb UIを備えた長期的な自律的研究タスク用のGoベースのハーネスであるAmplioが含まれています。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト