KalyanKS-NLP/llm-engineer-toolkit

LLM Engineer Toolkit은 대규모 언어 모델(LLM)을 다루기 위한 120개 이상의 라이브러리를 선별한 목록입니다. LLM은 챗봇과 텍스트 생성기의 기반 기술입니다. 목록은 카테고리별로 구성되어 있어 학습, 앱 구축, 모델 평가와 같은 특정 작업에 적합한 도구를 빠르게 찾을 수 있습니다.

포함 내용:

• 카테고리는 전체 LLM 워크플로우를 다룹니다: 학습 및 미세 조정, 애플리케이션 개발, 검색 증강 생성(RAG), 추론, 서빙, 데이터 추출, 에이전트, 평가, 모니터링, 프롬프트, 구조화된 출력, 안전, 임베딩 모델 등.
• 각 항목에는 라이브러리 이름, 간단한 설명, GitHub 저장소 링크가 포함됩니다.
• 나열된 도구 예시: 더 빠른 미세 조정을 위한 Unsloth, LLM 앱 구축을 위한 LangChain, 효율적인 추론을 위한 vLLM 등.

구성 방식:

• README 상단에 각 카테고리로 이동할 수 있는 빠른 링크가 있습니다.
• 카테고리는 라이브러리, 설명, 링크 열이 있는 표로 표시됩니다.

추가 리소스:

• 저자(Kalyan KS)는 면접 질문, 프롬프트 엔지니어링 기법, 서베이 논문에 대한 관련 저장소도 관리합니다.
• LLM 면접 질문에 대한 유료 책(할인 쿠폰 포함)과 생성형 AI 업데이트를 위한 무료 뉴스레터가 있습니다.

요약하자면, LLM 생태계를 탐구하는 모든 사람을 위한 원스톱 참고 자료로, 가장 유용한 오픈소스 도구를 목적별로 그룹화하여 시간을 절약해 줍니다.