microsoft/PhiCookBook

它解决了什么问题

此仓库提供了全面的资源、教程和代码示例，用于处理微软的Phi系列小型语言模型（SLM）。它解决了在计算能力有限的设备（如边缘设备或本地PC）上构建和部署强大AI应用（包括文本、视觉、音频和推理任务）的挑战。

它是如何工作的

该cookbook作为开发者的中心枢纽，学习如何将Phi模型集成到各种环境中。它涵盖了AI项目的整个生命周期：从设置开发环境、在本地或云端运行推理，到针对特定任务微调模型，并使用负责任AI原则评估其性能。它提供了流行框架（如ONNX Runtime、.NET和各种基于云的AI平台）的实践代码示例。

适用人群

此资源专为希望使用高效、高性能的小型语言模型构建生成式AI应用的开发者和AI工程师设计。适合那些希望在从移动设备、本地服务器到基于云的基础设施等各种环境中部署AI的人。

亮点

• 大量实践代码示例，涵盖文本、聊天、视觉、音频和高级推理。
• 在多种平台（包括iOS、Android、NVIDIA Jetson和本地PC）上部署Phi模型的指南。
• 使用Microsoft Olive、Apple MLX和Azure Machine Learning等工具进行模型量化和微调的实用教程。
• 构建RAG（检索增强生成）管道和函数调用代理的端到端示例。
• 支持多种语言，并与Hugging Face、Ollama和NVIDIA NIM等主要AI生态系统集成。