decodingai-magazine/second-brain-ai-assistant-course

Learn to build your Second Brain AI assistant with LLMs, agents, RAG, fine-tuning, LLMOps and AI systems techniques.

이것은 무엇인가?

오픈소스, 자기 주도 과정으로, 개인 지식 기반과 대화하는 프로덕션 준비 AI 어시스턴트(당신의 "세컨드 브레인")를 구축하는 방법을 가르칩니다. 이 과정은 Decoding AI가 MongoDB, Comet, Opik, Unsloth, ZenML과 협력하여 만들었습니다.

"세컨드 브레인" 개념(Tiago Forte)은 당신의 개인 메모, 아이디어, 리소스 모음을 의미합니다. 당신이 구축할 AI 어시스턴트는 그 모음을 기반으로 질문에 답하고, 문서를 요약하고, 통찰력을 제공할 수 있습니다. 메모를 수동으로 검색할 필요 없이 말이죠.

무엇을 구축할 것인가?

과정은 두 개의 Python 애플리케이션 구축을 안내합니다:

second-brain-offline — "배후" 파이프라인: 데이터 처리, RAG(검색 증강 생성) 설정, 모델 파인튜닝.
second-brain-online — 질문에 답변을 제공하는 실제 AI 어시스턴트.

과정 구조 (6개 모듈)

모듈	배울 내용	코드?
0	전체 과정 개요	아니요
1	세컨드 브레인을 위한 AI 어시스턴트 설계	아니요
2	데이터 파이프라인: Notion 데이터 처리, 문서 크롤링, 콘텐츠 품질 점수 매기기, 데이터베이스에 저장	예
3	노이즈가 많은 문서를 고품질 파인튜닝 데이터셋으로 변환(증류를 통해)	예
4	오픈소스 LLM(Llama 3.1 8B)을 파인튜닝하여 문서를 요약하고 API로 배포	예
5	고급 기술을 사용한 RAG 파이프라인 구축(컨텍스트 검색, 부모 검색, 벡터 검색)	예
6	에이전트형 RAG 추론 파이프라인 및 모니터링/평가(LLMOps) 구축	예

습득할 핵심 기술

LLM 시스템 아키텍처 및 MLOps 모범 사례
ZenML을 사용한 파이프라인 오케스트레이션
Opik을 사용한 LLMOps 및 RAG 평가
웹 크롤링 및 콘텐츠 정규화
LLM 및 휴리스틱을 사용한 품질 점수 매기기
증류를 통한 데이터셋 생성
Unsloth 및 Comet을 사용한 Llama 모델 파인튜닝
Hugging Face에 서버리스 모델 배포
고급 RAG 및 에이전트 구축(smolagents 사용)
최신 Python 도구(uv, ruff)

사용 데이터

과정은 원래 Notion에 보관된 AI/ML 리소스(GenAI, LLM, RAG, MLOps 등)의 약 100개 페이지와 500개 이상의 링크로 구성된 선별된 목록을 사용합니다. 공개 S3 버킷에서 무료 스냅샷을 사용할 수 있습니다. Notion 계정이 필요 없습니다. 그러나 파이프라인은 유연하여 원하는 경우 모든 Notion 데이터베이스를 로드할 수 있습니다.

비용

과정 자체는 무료이며 오픈소스입니다. 코드 실행 비용은 대략 1~5달러입니다:

OpenAI API: 약 3달러
Hugging Face 전용 엔드포인트(선택 사항): 약 2달러

비용 효율적인 옵션을 선택하면 약 1달러로 전체 과정을 완료할 수 있습니다. 읽기 전용은 완전히 무료입니다.

대상자

ML/AI 엔지니어 — 프로덕션 준비 에이전트형 RAG 및 LLM 시스템 구축(노트북 튜토리얼을 넘어서)
데이터/소프트웨어 엔지니어 — 엔드투엔드 에이전트형 RAG 및 LLM 애플리케이션 설계
데이터 과학자 — LLMOps 및 소프트웨어 엔지니어링 모범 사례로 프로덕션 AI 시스템 구현

사전 요구 사항

기술: 중급 Python; 초급 수준의 머신러닝, LLM, RAG
하드웨어: 최신 노트북/PC(GPU 선택 사항 — 클라우드 대안 제공)
수준: 중급(하지만 README에는 "약간의 노력과 인내로 누구나 할 수 있다"고 명시)

시작하기

저장소를 클론
첨부된 기사 읽기(README에 링크)
코드를 설정하고 실행하여 결과를 재현
구현을 더 깊이 탐구

자세한 설정 지침은 각 앱의 자체 문서 폴더에 있습니다.

지원 및 기여

질문/문제: GitHub 이슈 열기
기여: 저장소를 포크하고, 버그를 수정하고, 풀 리퀘스트 제출(CONTRIBUTING.md 참조)

라이선스

MIT 라이선스.

핵심 기여자

Paul Iusztin — AI/ML 엔지니어
Ernesto Larios — AI 엔지니어
Anca Ioana Muscalagiu — SWE/ML 엔지니어

결론

자신의 지식 기반에서 정보를 검색하고 요약하는 실제 프로덕션급 AI 어시스턴트를 구축하는 방법을 배우고 싶다면, 최신 LLMOps 및 소프트웨어 엔지니어링 관행을 사용하여 이 무료 실습 과정이 완전한 코드베이스, 단계별 레슨, 그리고 자신의 프로젝트에 적용할 수 있는 작업 템플릿을 제공합니다.