DataTalksClub/llm-zoomcamp

LLM Zoomcamp — 이 프로젝트는 무엇인가?

LLM Zoomcamp는 무료, 오픈소스, 10주 온라인 코스로, ChatGPT와 같은 도구 뒤에 있는 기술인 대규모 언어 모델(LLM)을 활용한 실제 프로덕션 준비 애플리케이션을 구축하는 방법을 가르칩니다. 데이터 애호가들의 글로벌 커뮤니티인 DataTalks.Club이 만들었습니다.

이 과정은 실습 중심입니다. 보기만 하는 것이 아니라 구축하면서 배웁니다. 과정이 끝나면 작동하는 코드베이스와 자신만의 LLM 기반 애플리케이션을 구축할 수 있는 기술을 갖게 됩니다.

배우게 될 내용

이 과정은 LLM 앱 구축을 위한 전체 도구 키트를 다룹니다. 여기에는 다음이 포함됩니다.

• 검색 증강 생성(RAG) — LLM이 내장된 지식 대신 자신의 문서나 데이터를 사용하여 질문에 답할 수 있게 하는 기술
• 벡터 검색 — 정확한 키워드가 아닌 의미/의미론으로 관련 정보를 찾는 방법
• 임베딩 — 의미론적 검색을 가능하게 하는 수학적 표현
• AI 에이전트 및 함수 호출 — LLM이 작업을 수행하고 도구를 사용할 수 있게 하는 기술
• 평가 및 모니터링 — 앱 성능을 측정하고 프로덕션에서 추적하는 방법
• 하이브리드 검색 및 재순위화 — 더 나은 결과를 위해 키워드 검색과 의미론적 검색을 결합하는 방법

대상자

이 과정은 실습을 통해 배우는 사람들을 위해 설계되었습니다. 다음 분들에게 유용합니다.

• 실제 제품에 LLM 기능을 추가하려는 소프트웨어 엔지니어
• 검색 파이프라인이 프로덕션 시스템에 어떻게 적응하는지 이해하려는 데이터 엔지니어
• LLM 앱을 평가하고 모니터링하는 구조화된 방법이 필요한 ML 실무자

사전 요구 사항: Python 코드 작성, 명령줄 사용에 익숙하고 Docker에 대한 기본적인 친숙함이 있어야 합니다. 머신러닝이나 LLM 경험은 필요하지 않습니다. GPU가 필요 없으며, 일반 노트북으로 충분합니다. 코드를 직접 실행하면 API 크레딧으로 약 $1~5 정도 소요됩니다.

README에는 간단히 나와 있습니다. "Python 함수를 작성할 수 있고 ChatGPT에 대해 들어본 적이 있다면 시작하기에 충분합니다."

과정 진행 방식

수강 방법은 두 가지가 있습니다.

	라이브 코호트	자기 주도
시작	고정 일정	언제든지
강의	사전 녹화 비디오	사전 녹화 비디오
숙제	채점됨	제공됨, 채점 안 됨
리더보드	예	아니요
동료 평가	예	아니요
수료증	예	아니요
비용	무료	무료

중요: "라이브 코호트"는 라이브 수업을 의미하지 않습니다. 모든 강의는 사전 녹화됩니다. "라이브"는 마감일, 채점 숙제, 동료 평가, 그리고 마지막에 수료증을 받으며 다른 사람들과 함께 작업한다는 의미입니다.

과정 구조

교과 과정에는 7개 모듈과 캡스톤 프로젝트가 있습니다.

1. 에이전틱 RAG — 키워드 검색으로 RAG 파이프라인을 구축한 다음 함수 호출로 에이전트화하기
2. 벡터 검색 — minsearch, sqlitesearch, PGVector와 같은 도구를 사용한 임베딩 기반 의미 검색
3. 오케스트레이션 — Kestra를 사용한 AI 오케스트레이션
4. 평가 — 오프라인 및 온라인 모두에서 검색 및 답변 품질 측정
5. 모니터링 — 라이브 대시보드로 사용자 피드백 및 시스템 상태 추적
6. 모범 사례 — LangChain, 하이브리드 검색, 재순위화
7. 엔드 투 엔드 프로젝트 — 완전한 예: LLM으로 구축된 피트니스 어시스턴트

또한 dlt 파이프라인을 사용한 데이터 수집 워크숍도 있습니다.

캡스톤 프로젝트

과정을 완료하려면 자신만의 완전한 RAG 애플리케이션을 처음부터 구축합니다. 여기에는 다음이 포함됩니다.

• 검색 가능한 지식 기반 (데이터셋 선택, 정리, 저장)
• 검색 파이프라인 (전체 RAG 흐름: 컨텍스트 검색, 프롬프트 구성, LLM 호출, 답변 반환)
• 평가 프로세스 (검색 및 답변 품질 측정)
• 사용자 대면 인터페이스 (Streamlit 또는 FastAPI 앱 등)
• 모니터링 및 피드백 루프

지난 학생들은 피트니스 어시스턴트, 학습 동반자, 의료 FAQ 봇, 코드베이스 Q&A 도구, 뉴스 요약기를 구축했습니다.

수료증

수료증을 받으려면 다음을 완료해야 합니다.

1. 최종 프로젝트 완료
2. 다른 학생 3명의 프로젝트를 서면 피드백으로 동료 평가
3. 코호트 마감일 준수

자기 주도 학습자는 수료증을 받을 수 없지만 포트폴리오 프로젝트를 자유롭게 구축할 수 있습니다.

커뮤니티 및 지원

• Slack — 토론, 문제 해결, 네트워킹을 위한 주요 허브 (#course-llm-zoomcamp 채널 참여)
• 텔레그램 — 공지용
• 공개 학습 — 이 과정은 LinkedIn, X 또는 블로그에서 진행 상황을 공유하도록 권장하며, 보너스 포인트를 얻을 수 있습니다.

선택적 유료 애드온

AI Shipping Labs는 무료 코스에 더해 오피스 아워, 책임 스프린트, 개인화된 온보딩, 회원 전용 워크숍을 추가하는 선택적 유료 커뮤니티입니다. 추가 지원을 받는 방법이며, 핵심 코스는 무료로 유지됩니다.

강사 및 스폰서

이 과정은 Alexey Grigorev(DataTalks.Club 창립자), Will Russell(Kestra 개발자 관계), Timur Kamaliev(AI 엔지니어)가 진행합니다. Kestra(오픈소스 오케스트레이션 플랫폼)와 dlt Hub(오픈소스 데이터 수집 도구)가 후원합니다.

기여 방법

자료에서 버그를 발견하거나 설명을 개선하거나 코드를 수정하고 싶다면 레포지토리를 포크하고, 변경 사항을 적용하고, 풀 리퀘스트를 열 수 있습니다.

결론

LLM Zoomcamp는 무료이고 실용적이며 커뮤니티 중심의 과정으로, LLM 기초부터 프로덕션 준비 AI 어시스턴트 구축까지 10주 만에 배울 수 있습니다. 라이브 코호트 경험, 수료증, 그리고 강력한 커뮤니티 지원을 선택할 수 있습니다.