datawhalechina/jev-cookbook

해결하는 문제

대규모 언어 모델 애플리케이션의 텍스트 파싱 단계는 느리고 비용이 많이 들며 취약합니다. Jev Cookbook은 새로운 경로를 제공합니다: System One 모델을 사용하여 타입화된 결정과 보정된 확률을 네이티브로 출력하여 파싱을 피합니다. 중국어 튜토리얼은 이전에 공백이었으며, 이 프로젝트가 그 공백을 메웁니다.

작동 방식

프로젝트는 11장의 실행 가능한 중국어 튜토리얼을 포함하며 Jupyter Notebook을 사용합니다. 사용자는 상태와 타입화된 질문(Choice/Score/Noul 세 가지 프리미티브)을 보내 구조화된 답변을 얻습니다. 튜토리얼은 입문부터 실전까지 18개의 공식 레시피, 음성 스마트 홈 실험, 모델 평가(231개의 공개 문제 4차원 비교), 그리고 RLCD를 사용한 오픈소스 유사 모델 Laya의 미세 조정 전체 프로세스를 다룹니다. 모든 확률, 지연 시간, 토큰 및 비용은 검증 가능한 실측 데이터에서 비롯됩니다.

대상 독자

기본적인 Python 능력을 갖추고 'AI 대 소프트웨어' 개발 패러다임에 입문하려는 개발자, 엔지니어, 학생을 대상으로 하며 머신러닝 배경은 필요하지 않습니다. 사전 요구 사항은 Python≥3.10과 Jupyter Notebook이며 API 키는 선택 사항(무료 등록)입니다.

하이라이트

• 제로 장벽 입문: API 키를 설정하지 않아도 오프라인 예제로 모든 코드 경로를 학습 가능
• 세 가지 프리미티브 질문 규율: Choice/Score/Noul, 한 질문에 한 가지만 묻기
• 18개의 공식 실전 레시피: 재정렬, 의미 검색, 구조 복원, 함수 호출 등, 각 레시피에 엔지니어링 함정 포함
• 완전한 애플리케이션 실전: 음성 기반 3D 스마트 홈, 12개의 실행 가능한 게임 및 앱 프로젝트
• 정직한 평가 규율: 231개의 공개 문제 4차원 비교, 재시도 없음, 폴백 없음, 예산 관리
• 로컬 미세 조정 전체 프로세스: RLCD로 오픈소스 모델 Laya를 미세 조정하고 중국어 데이터셋을 구축하여 로컬 서비스 배포
• Agent 통합 패러다임: Pi 및 DSH 프레임워크에서 판단 게이트 통합