microsoft/PhiCookBook
This is a Phi Family of SLMs book for getting started with Phi Models. Phi a family of open sourced AI models developed by Microsoft. Phi models are the most capable and cost-effective small language models (SLMs) available, outperforming models of the same size and next size up across a variety of language, reasoning, coding, and math benchmarks
解決する問題
このリポジトリは、MicrosoftのPhiファミリーの小型言語モデル(SLM)を扱うための包括的なリソース、チュートリアル、コードサンプルを提供します。エッジデバイスやローカルPCなど、計算能力が限られたデバイス上で、テキスト、ビジョン、オーディオ、推論タスクを含む強力なAIアプリケーションを構築および展開するという課題に対処します。
仕組み
このクックブックは、開発者がPhiモデルをさまざまな環境に統合する方法を学ぶための中心的なハブとして機能します。開発環境のセットアップ、ローカルまたはクラウドでの推論の実行から、特定のタスク向けのモデルの微調整、責任あるAI原則を使用したパフォーマンスの評価まで、AIプロジェクトのライフサイクル全体をカバーしています。ONNX Runtime、.NET、さまざまなクラウドベースのAIプラットフォームなどの人気フレームワーク向けの実践的なコードサンプルを提供します。
対象読者
このリソースは、効率的で高性能な小型言語モデルを使用して生成AIアプリケーションを構築したい開発者やAIエンジニア向けに設計されています。モバイルデバイスやローカルサーバーからクラウドベースのインフラストラクチャまで、あらゆる環境でAIを展開したいと考えている人に適しています。
ハイライト
- テキスト、チャット、ビジョン、オーディオ、高度な推論のための実践的なコードサンプルの広範なライブラリ。
- iOS、Android、NVIDIA Jetson、ローカルPCなど、多様なプラットフォームでのPhiモデル展開ガイド。
- Microsoft Olive、Apple MLX、Azure Machine Learningなどのツールを使用したモデル量子化と微調整に関する実用的なチュートリアル。
- RAG(検索拡張生成)パイプラインと関数呼び出しエージェントを構築するためのエンドツーエンドの例。
- 複数の言語をサポートし、Hugging Face、Ollama、NVIDIA NIMなどの主要なAIエコシステムと統合。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト