thinking-machines-lab/tinker-cookbook

해결하는 문제

Tinker Cookbook은 대규모 언어 모델(LLM)을 커스터마이징하고 파인튜닝하는 과정을 간소화하기 위한 일련의 고수준 추상화와 실습 예제를 제공합니다. Tinker API를 활용하여 분산 학습의 복잡성을 제거함으로써, 개발자가 인프라가 아닌 학습 레시피에 집중할 수 있도록 합니다.

작동 방식

이 라이브러리는 분산 학습 백엔드를 처리하는 tinker SDK를 기반으로 구축되었습니다. Tinker Cookbook은 '레시피'(사전 구성된 학습 환경) 라이브러리와 토큰 시퀀스를 채팅 메시지로 렌더링하고, LoRA 학습을 위한 하이퍼파라미터를 관리하며, 모델을 평가하기 위한 유틸리티를 제공합니다.

대상 사용자

자체 학습 클러스터를 관리하지 않고도 지도 미세 조정(SFT), 강화 학습(RL), 증류와 같은 고급 사후 학습 기술을 수행하려는 연구자와 개발자를 위해 설계되었습니다.

주요 특징

• 다양한 학습 레시피: Chat SFT, 수학 및 코드 RL(샌드박스 실행 포함), 선호도 학습(DPO/RLHF), 지식 증류, 멀티 에이전트 RL 구현이 포함되어 있습니다.
• 멀티모달 지원: Inkling 모델 제품군을 위해 오디오 및 이미지 입력에 대한 SFT와 RL을 지원합니다.
• 통합 평가: 12개 이상의 벤치마크(예: GSM8K, MMLU-Pro, GPQA)를 지원하는 실험적 벤치마크 프레임워크를 통해 모델 성능을 검증할 수 있습니다.
• Claude Code 통합: AI 어시스턴트가 학습 실험의 계획 및 디버깅을 자동화하도록 돕는 특수 기술이 함께 제공됩니다.