AI 시스템 설계 가이드

정의: 프로덕션에서 AI 시스템을 설계하고 구축하는 사람들과 AI 시스템 설계 취업 인터뷰를 준비하는 엔지니어를 위한 무료, 지속적으로 업데이트되는 참조 자료입니다. Om Bharatiya가 유지 관리하며 GitHub에서 MIT 라이선스로 호스팅되어 누구나 사용하고 개선에 기여할 수 있습니다.

핵심 아이디어

이 가이드의 전제는 AI에 관한 인쇄된 책은 빠르게 낡아진다는 것입니다. 새로운 모델, 가격, 엔지니어링 패턴은 책이 업데이트되는 것보다 빠르게 등장합니다. 이 프로젝트는 "살아있는 문서"입니다. 새로운 모델 릴리스, 프로토콜 변경, 새로운 패턴을 추적하여 독자가 작년 정보가 아닌 최신 정보를 얻을 수 있게 합니다.

내용

리포지토리는 19개의 번호가 매겨진 주제 폴더와 독립 가이드로 구성됩니다. 주요 영역은 다음과 같습니다:

• 기초 — LLM이 내부적으로 작동하는 방식 (트랜스포머, 어텐션, 임베딩)
• 모델 환경 — 특정 모델 (Claude, GPT, Gemini, Grok, DeepSeek 등), 선택 방법, 실제 가격 데이터
• 검색 시스템 — RAG (검색 증강 생성), 청킹 전략, 벡터 데이터베이스, 재랭킹
• 에이전트 시스템 — 작업을 수행하는 AI 에이전트, 도구 사용, MCP 및 A2A 프로토콜, 지속적 실행
• 음성 및 오디오 에이전트 — 실시간 음성 AI (지연 시간 및 비용 고려 사항 포함)
• 평가 및 관찰 가능성 — AI 시스템이 실제로 작동하는지 측정하는 방법 (RAGAS, LangSmith, 벤치마크)
• 보안, 신뢰성, 규정 준수 — 접근 제어, 가드레일, AI 거버넌스 (EU AI Act, NIST)
• 인프라 및 MLOps — GPU 클러스터, AI 게이트웨이, 비용 관리 (FinOps)
• 사례 연구 — 다이어그램이 포함된 20개의 실제 아키텍처 예시 (멀티테넌트 SaaS 시스템, 사기 탐지 시스템, 음성 헬스케어 에이전트, 코딩 에이전트 포함)

또한 AI 평가에 관한 보너스 심층 가이드 2개 (각 3,000줄 이상)가 있으며 Phoenix, Langfuse, LangWatch와 같은 플랫폼을 다룹니다.

인터뷰 준비

가이드의 상당 부분은 AI 엔지니어링 인터뷰를 대상으로 합니다. 포함 내용:

• 147개 질문 인터뷰 뱅크 (음성 AI 세트 포함 실제 질문)
• 답변 프레임워크 (모의 인터뷰 기록 포함)
• 10개의 화이트보드 연습
• 취업 시장 동향 문서 (2026년 10월)
• FAQ 및 모든 용어를 정의하는 용어집

이 가이드가 답변을 돕는 예시 인터뷰 질문: "경쟁업체가 서로의 데이터를 볼 수 없는 멀티테넌트 RAG 시스템을 설계하세요" 및 "에이전트가 3단계 작업에 15단계를 수행합니다. 어떻게 디버깅하나요?"

이것이 아닌 것

README는 경계를 명확히 합니다:

• Python, PyTorch 또는 기본 ML 튜토리얼이 아님 — 독자는 먼저 과정을 수강해야 함
• 벤더 중립적이지 않음 — 실제 시스템에는 실제 선택이 필요하므로 특정 모델, 가격, 프레임워크를 명시
• 직접 구축의 대체가 아님 — 프로젝트와 함께 읽도록 의도됨
• 연구 논문 요약이 아님 — 실무를 바꿀 때만 논문을 인용

추가 정보

저자는 유료 1:1 모의 인터뷰 및 멘토링 (EngineBogie 및 Topmate 통해)을 제공하며, 가이드는 aidaddy.tech에서 온라인으로 읽을 수 있고 즉시 검색이 가능합니다. 또한 과정 추천, 경력 전환 안내 (백엔드/QA/PM 역할에서 AI로), 최첨단 논문을 추적하는 연구 레이더에 대한 보조 문서가 있습니다.

요약: 프로덕션 AI 시스템 구축 및 시니어 AI 엔지니어링 인터뷰 준비를 위한 실용적이고, 의견이 있으며, 최신의 참조 자료입니다. 무료로 읽을 수 있고 커뮤니티 기여에 열려 있습니다.