microsoft/PhiCookBook

해결하는 문제

이 저장소는 Microsoft의 Phi 계열 소형 언어 모델(SLM)을 다루기 위한 포괄적인 리소스, 튜토리얼 및 코드 샘플을 제공합니다. 엣지 디바이스나 로컬 PC와 같이 컴퓨팅 성능이 제한된 장치에서 텍스트, 비전, 오디오 및 추론 작업을 포함한 강력한 AI 애플리케이션을 구축하고 배포하는 과제를 해결합니다.

작동 방식

이 쿡북은 개발자가 Phi 모델을 다양한 환경에 통합하는 방법을 배울 수 있는 중앙 허브 역할을 합니다. 개발 환경 설정, 로컬 또는 클라우드에서 추론 실행부터 특정 작업에 대한 모델 미세 조정 및 책임 있는 AI 원칙을 사용한 성능 평가까지 AI 프로젝트의 전체 수명 주기를 다룹니다. ONNX Runtime, .NET 및 다양한 클라우드 기반 AI 플랫폼과 같은 인기 있는 프레임워크에 대한 실습 코드 샘플을 제공합니다.

대상 독자

이 리소스는 효율적이고 고성능인 소형 언어 모델을 사용하여 생성형 AI 애플리케이션을 구축하려는 개발자 및 AI 엔지니어를 위해 설계되었습니다. 모바일 디바이스, 로컬 서버부터 클라우드 기반 인프라에 이르기까지 모든 환경에 AI를 배포하려는 사람들에게 적합합니다.

주요 특징

• 텍스트, 채팅, 비전, 오디오 및 고급 추론을 위한 실습 코드 샘플의 광범위한 라이브러리.
• iOS, Android, NVIDIA Jetson 및 로컬 PC를 포함한 다양한 플랫폼에서 Phi 모델 배포 가이드.
• Microsoft Olive, Apple MLX 및 Azure Machine Learning과 같은 도구를 사용한 모델 양자화 및 미세 조정에 대한 실용적인 튜토리얼.
• RAG(검색 증강 생성) 파이프라인 및 함수 호출 에이전트 구축을 위한 엔드투엔드 예제.
• 여러 언어를 지원하며 Hugging Face, Ollama 및 NVIDIA NIM과 같은 주요 AI 생태계와 통합됩니다.