awaescher/OllamaSharp

The easiest way to use Ollama in .NET

解决的问题

OllamaSharp 是一个 .NET 库,可简化将本地或远程 Ollama AI 模型集成到 C# 应用程序中的过程。它作为桥梁,提供对 Ollama API 的强类型 API 包装,无需手动发送 HTTP 请求即可与 AI 模型交互。

工作原理

该库提供了一个 OllamaApiClient,封装了 Ollama API 的每一个端点。这使得开发者可以使用可等待的 C# 方法执行聊天、生成补全、创建嵌入以及管理模型(拉取、列出、删除)等任务。它支持长时间运行任务(如模型下载)的实时流式响应和进度报告。

适用人群

希望在软件中使用 Ollama 实现 AI 功能的 .NET 开发者,无论是构建简单的聊天界面,还是将 AI 集成到 Microsoft Semantic Kernel 或 .NET Aspire 等大型框架中。

主要亮点

  • 完整 API 覆盖:涵盖所有 Ollama API 端点,包括模型管理和嵌入功能。
  • C# 原生体验:支持实时流式传输和原生 AOT(提前编译)以实现高性能。
  • 工具支持:包含功能强大的工具引擎,支持函数调用的源生成器。
  • 生态集成:被 Microsoft 推荐,并实现了 Microsoft.Extensions.AI 中的 IChatClientIEmbeddingGenerator,支持无供应商依赖的 AI 开发。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目