Nutlope/llamatutor

해결하는 문제

이 프로젝트는 질문에 대한 답변을 온디맨드로 얻을 수 있도록 돕는 오픈 소스 AI 개인 튜터를 제공합니다. 대규모 언어 모델과 웹 검색을 결합하여 최신 정보를 반영한 답변을 받을 수 있으므로 학습이나 빠른 참조를 위한 편리한 도구가 됩니다.

작동 방식

핵심 언어 엔진으로 Meta의 Llama 3.1 70B 모델을 사용하며, 실제 추론 호출은 Together AI가 처리합니다. 최신 또는 상세한 온라인 콘텐츠가 필요한 쿼리의 경우 Exa 검색 API를 통합합니다. 프론트엔드는 Next.js (App Router)와 Tailwind CSS로 구축되었으며, Helicone이 관측 가능성을 제공하고 Plausible이 웹사이트 분석을 처리합니다. 직접 실행하려면 리포지토리를 복제하고, Together AI, Exa, Helicone에 가입한 후 API 키를 .env 파일에 추가하고 npm install 및 npm run dev를 실행하면 됩니다.

대상 사용자

직접 실행할 수 있는 AI 튜터를 원하는 모든 사람(학생, 독학자, 또는 오픈 소스 학습 보조 도구를 커스터마이징하려는 개발자)을 대상으로 합니다. 오픈 소스이므로 자신의 필요에 맞게 조정할 수 있습니다.

주요 특징

• Meta의 Llama 3.1 70B 모델 기반
• 효율적인 추론을 위해 Together AI 사용
• 관련 결과를 가져오기 위한 웹 검색에 Exa 통합
• 현대적인 UI를 위해 Next.js와 Tailwind CSS로 구축
• Helicone을 통한 관측 가능성 및 Plausible을 통한 분석 기능 포함
• 간단한 복제 및 실행 프로세스로 로컬 설정 용이