awaescher/OllamaSharp
The easiest way to use Ollama in .NET
解決的問題
OllamaSharp 是一個 .NET 庫,可簡化將本地或遠端 Ollama AI 模型整合至 C# 應用程式中的過程。它作為橋樑,提供對 Ollama API 的強型別 API 包裝,無需手動發送 HTTP 請求即可與 AI 模型互動。
工作原理
該庫提供了一個 OllamaApiClient,封裝了 Ollama API 的每一個端點。這使得開發者可以使用可等待的 C# 方法執行聊天、生成補全、建立嵌入以及管理模型(拉取、列出、刪除)等任務。它支援長時間執行任務(如模型下載)的即時串流回應與進度報告。
適用對象
希望在軟體中使用 Ollama 實現 AI 功能的 .NET 開發者,無論是建構簡單的聊天介面,還是將 AI 整合至 Microsoft Semantic Kernel 或 .NET Aspire 等大型框架中。
主要亮點
- 完整 API 覆蓋:涵蓋所有 Ollama API 端點,包括模型管理和嵌入功能。
- C# 原生體驗:支援即時串流傳輸和原生 AOT(提前編譯)以實現高效率。
- 工具支援:包含功能強大的工具引擎,支援函數呼叫的原始碼產生器。
- 生態系整合:被 Microsoft 推薦,並實作了
Microsoft.Extensions.AI中的IChatClient與IEmbeddingGenerator,支援無供應商依賴的 AI 開發。
相關
- 專案
- 專案
- 專案
- 專案
- 專案