awaescher/OllamaSharp
The easiest way to use Ollama in .NET
解决的问题
OllamaSharp 是一个 .NET 库,可简化将本地或远程 Ollama AI 模型集成到 C# 应用程序中的过程。它作为桥梁,提供对 Ollama API 的强类型 API 包装,无需手动发送 HTTP 请求即可与 AI 模型交互。
工作原理
该库提供了一个 OllamaApiClient,封装了 Ollama API 的每一个端点。这使得开发者可以使用可等待的 C# 方法执行聊天、生成补全、创建嵌入以及管理模型(拉取、列出、删除)等任务。它支持长时间运行任务(如模型下载)的实时流式响应和进度报告。
适用人群
希望在软件中使用 Ollama 实现 AI 功能的 .NET 开发者,无论是构建简单的聊天界面,还是将 AI 集成到 Microsoft Semantic Kernel 或 .NET Aspire 等大型框架中。
主要亮点
- 完整 API 覆盖:涵盖所有 Ollama API 端点,包括模型管理和嵌入功能。
- C# 原生体验:支持实时流式传输和原生 AOT(提前编译)以实现高性能。
- 工具支持:包含功能强大的工具引擎,支持函数调用的源生成器。
- 生态集成:被 Microsoft 推荐,并实现了
Microsoft.Extensions.AI中的IChatClient和IEmbeddingGenerator,支持无供应商依赖的 AI 开发。
相关
- 项目
- 项目
- 项目
- 项目
- 项目