unslothai/notebooks

unslothai/notebooks – LLM의 파인튜닝, 추론 및 실험을 위한 실행 가능한 Colab 노트북

무엇인가요 – Google Colab에서 호스팅된 Jupyter 노트북의 정성스럽게 선별된 컬렉션으로, 다양한 오픈소스 대규모 언어 모델(LLM)과 Unsloth 스택의 사용법을 보여줍니다. 노트북은 다음과 같은 내용을 다룹니다:

파인튜닝 (예: GPT‑OSS 20 B, Llama 3.1, Gemma 4) – 데이터 준비, 학습 루프, 튜닝된 체크포인트 저장.
추론 / 채팅 UI – Unsloth Studio 노트북은 간단한 웹 채팅 프론트엔드를 제공합니다.
다중모달 – 시각 (Gemma 4, Qwen 3‑VL, Mistral Ministral 3), 음성 (Gemma 3N, Orpheus‑TTS), 임베딩 (EmbeddingGemma, Qwen3‑Embedding).
강화학습 / GRPO / ORPO – LLM을 게임 플레이 에이전트(수수께끼, 2048, 지뢰찾기)로 만들거나, GSM8K 수학 문제와 같은 작업에서 보상 모델 학습(GRPO, DPO, ORPO)을 수행하는 노트북.
하드웨어 전용 데모 – BF16, FP8, A100 전용 커널, DGX‑Spark 예제.

모든 노트북은 자체 포함형입니다: 필요한 unsloth Python 패키지를 설치하고, 모델 가중치를 다운로드하며, 학습 또는 추론 코드를 실행하고 결과를 표시하는 모든 과정이 무료 Colab 세션 내에서 완료됩니다.

사용 방법

필요하신 노트북의 Open in Colab 배지를 클릭하세요 (예: gpt‑oss (20B) – Fine‑tuning). 새로운 Colab 탭에서 노트북이 열립니다.
첫 번째 셀을 실행하여 unsloth 및 선택적 종속성(torch, transformers 등)을 설치합니다.
단계별 섹션을 따르세요:
- 데이터 준비 – 일반적으로 HuggingFace에서 데이터셋을 로드하거나, 자체 CSV/JSON 파일을 업로드합니다.
- 학습 – Unsloth의 고속 커널 최적화를 활용하는 단일 trainer.fit() 호출.
- 평가 / 추론 – 텍스트 생성, 이미지에 대한 비전 모델 실행, 또는 채팅 UI 시작.
완료 후, 파인튜닝된 체크포인트를 다운로드하거나 Gradio 스타일의 데모를 내보낼 수 있습니다.

왜 유용한가

기능	왜 중요한가
광범위한 모델 커버리지	Gemma, Qwen, Llama 3.x, Mistral, Phi‑4 등 최신 오픈소스 LLM 패밀리에서 Unsloth가 작동함을 보여줍니다.
다중모달 예제	비전, 음성, 임베딩 노트북을 통해 비텍스트 모달리티를 동일한 학습 파이프라인에 통합하는 방법을 확인할 수 있습니다.
RL / GRPO 노트북	LLM을 게임 에이전트로 사용하거나 보상 모델 학습을 수행하는 등, 최신 연구 분야를 시연합니다.
하드웨어 전용 커널	BF16, FP8, A100 최적화 노트북을 통해 동일한 코드베이스에서 추가 성능을 끌어낼 수 있는 방법을 보여줍니다.
Colab에서의 제로 세팅	로컬 GPU 필요 없음. Google 계정만 있으면 누구나 즉시 전체 워크플로우를 시도할 수 있습니다.

누구에게 추천할까

파인튜닝 또는 RL 기반 LLM 학습을 위한 재현 가능한 스크립트가 필요한 연구자.
공개 모델을 자신의 데이터에 맞게 적응시키기 위한 시작 킷이 필요한 실무자. 반복 코드를 작성할 필요 없음.
최신 LLM 학습 기술(PEFT, 양자화, GRPO/DPO)을 배우고 싶은 학생. 인터랙티브한 노트북 환경을 선호하는 사람.

더 알아보기

문서 – https://unsloth.ai/docs/get-started/unsloth-notebooks
Discord 커뮤니티 – https://discord.gg/unsloth
메인 Unsloth 라이브러리 – https://github.com/unslothai/unsloth

TL;DR – unslothai/notebooks는 고성능 Unsloth 라이브러리를 사용해 수십 가지 오픈소스 LLM의 파인튜닝, 추론, 강화학습 실험을 위한 실행 가능한 Colab 노트북을 제공하는 진정한, 지속적으로 유지 관리되는 리포지토리입니다. 이는 코드 라이브러리 자체가 아니라 실용적인 학습 및 프로토타이핑 자원입니다.