google-deepmind/simply

Minimal and scalable research codebase in JAX, designed for rapid iteration on frontier research in LLM and other autoregressive models.

해결하는 문제

최첨단 LLM 연구를 위한 최소한의 확장 가능한 연구 코드베이스를 제공합니다. 새로운 옵티마이저, 학습 손실 또는 RL 알고리즘과 같은 새로운 아이디어를 연구자(인간 및 AI 에이전트 모두)가 구현하고 반복하는 데 걸리는 시간을 줄이는 것을 목표로 합니다.

작동 방식

JAX로 구축된 이 코드베이스는 자기 완결적이고 수정하기 쉽도록 최소한의 추상화와 종속성으로 설계되었습니다. 로컬 머신, Google Cloud TPU 및 XPK를 사용한 GKE에서 실험을 실행하는 것을 지원합니다. 자동화된 연구를 촉진하기 위해 AI 에이전트가 코드를 읽고, 아이디어를 제안하고, 자율적으로 실험을 실행할 수 있도록 하는 내장 에이전트 하네스(Amplio와 같은)가 포함되어 있습니다.

대상

신속한 LLM 실험을 위한 가볍고 확장 가능한 프레임워크를 원하는 AI 연구자 및 개발자, 그리고 AI 에이전트를 사용하여 연구 프로세스를 자동화하는 데 관심이 있는 분들.

주요 특징

  • 미니멀리즘 설계: JAX를 사용하여 포크 및 수정이 용이한 단순하고 자기 완결적인 코드베이스를 사용합니다.
  • 자동화된 연구: AI 에이전트가 자율적으로 새로운 LLM 구성 요소를 설계하고 벤치마킹할 수 있는 환경으로 특별히 설계되었습니다.
  • 확장 가능한 인프라: Cloud TPU 및 Google Kubernetes Engine (GKE)에 대한 네이티브 지원을 제공합니다.
  • 에이전트 하네스: 내장된 에이전트 하네스와 지속성 및 웹 UI를 갖춘 장기 자율 연구 작업을 위한 Go 기반 하네스인 Amplio가 포함되어 있습니다.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트