awaescher/OllamaSharp

해결하는 문제

OllamaSharp는 C# 애플리케이션에 로컬 또는 원격 Ollama AI 모델을 통합하는 과정을 간소화하는 .NET 라이브러리입니다. 수동 HTTP 요청 없이도 Ollama API를 강타입으로 래핑하는 API 브리지 역할을 하여 AI 모델과 상호작용할 수 있도록 합니다.

작동 방식

이 라이브러리는 Ollama API의 모든 엔드포인트를 래핑하는 OllamaApiClient를 제공합니다. 이를 통해 개발자는 채팅, 완성 생성, 임베딩 생성, 모델 관리(다운로드, 목록 조회, 삭제)와 같은 작업을 비동기 C# 메서드로 수행할 수 있습니다. 모델 다운로드와 같은 장시간 실행 작업에 대한 실시간 스트리밍 및 진행률 보고도 지원합니다.

대상 사용자

소프트웨어에 AI 기능을 사용하기 위해 Ollama를 활용하고자 하는 .NET 개발자. 간단한 채팅 인터페이스를 구축하거나 Microsoft Semantic Kernel 또는 .NET Aspire와 같은 대규모 프레임워크에 AI를 통합하는 경우에도 적합합니다.

주요 특징

• 완전한 API 커버리지: 모델 관리 및 임베딩을 포함한 Ollama API의 모든 엔드포인트를 커버합니다.
• C# 네이티브 경험: 실시간 스트리밍과 네이티브 AOT(사전 컴파일) 컴파일을 지원하여 높은 성능을 제공합니다.
• 도구 지원: 함수 호출을 위한 소스 생성기를 포함한 고도화된 도구 엔진을 제공합니다.
• 에코시스템 통합: Microsoft에서 추천하며, Microsoft.Extensions.AI의 IChatClient와 IEmbeddingGenerator를 구현하여 프로바이더에 의존하지 않는 AI 개발을 가능하게 합니다.