sugarforever/chat-ollama

何を解決するか

ChatOllama は、幅広い大規模言語モデル（LLM）に単一インターフェースからアクセスできる包括的なオープンソースチャットボットプラットフォームです。AIツールの断片化という問題を解決するために、モデル管理、ドキュメントベースの知識取得（RAG）、外部ツール実行（MCP）を1つのデプロイ可能なアプリケーションに統合しています。

動作方法

Nuxt 3 と Nitro で構築されたこのプラットフォームは、Ollama、OpenAI、Anthropic、Google Gemini などの複数のAIプロバイダーに接続できます。データ管理には Prisma ORM と PostgreSQL を使用し、Chroma や Milvus などのベクトルデータベースをサポートして、Retrieval Augmented Generation（RAG）機能を実現しています。拡張機能として Model Context Protocol（MCP）を実装しており、STDIO、SSE、HTTP などのトランスポート経由で外部ツール（ファイルシステムやデータベースなど）とAIがやり取りできるようにしています。

対象ユーザー

ローカルモデル（Ollama経由）と商用APIを両方サポートするセルフホスト型AIインターフェースを希望するユーザー、およびカスタムAIエージェントや外部ツールを拡張可能なプラットフォームを探している開発者向けに設計されています。

主な特徴

• マルチモデル対応：OpenAI、Anthropic、Google Gemini、Groq、Moonshot、Ollama と互換性があります。
• AIエージェント：リサーチやタスク実行に使えるツールアクセスを備えた知能的なエージェントをサポート。
• RAG統合：ドキュメントのアップロードと取得に対応する組み込み知識ベース。
• Model Context Protocol（MCP）：ファイルの読み書き、データベースのクエリ、ウェブ検索など、拡張可能なツール統合。
• リアルタイム音声チャット：Gemini 2.0 Flash を使用した統合音声会話。
• デプロイの柔軟性：Docker Compose または手動開発インストールで簡単にセットアップ可能。