Mintplex-Labs/anything-llm

Stop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience

AnythingLLM – 올인원 자체 호스팅 AI 채팅 플랫폼

개요 – AnythingLLM은 자체 호스팅 웹 애플리케이션으로, 프라이빗 ChatGPT 스타일 어시스턴트를 실행할 수 있습니다. React 프론트엔드, Node/Express 백엔드, 문서 수집 파이프라인, 선택적 Docker 이미지를 번들로 제공하므로 자체 하드웨어 또는 클라우드에서 완전한 기능의 LLM 기반 채팅 서비스를 빠르게 구축할 수 있습니다.

主な機能

  • 独自データとのチャット – PDF、Word ドキュメント、txt ファイルなどをドラッグ&ドロップ。アプリはベクターストアでインデックス化し、会話中に関連するパッセージを取得して引用を表示します。
  • マルチモデル対応 – llama.cpp(ローカルモデル)で動作する任意の LLM、または多数のホスト型プロバイダー(OpenAI、Anthropic、Azure、Gemini、Ollama、Bedrock など)に接続できます。Lemonade + llama.cpp を利用した組み込みのローカルエンジンも実行可能です。
  • 動的モデルルーティング – リクエストに応じて最適なプロバイダー/モデルを自動選択するルールを定義できます。
  • AI エージェントとワークフロー – ノーコードのエージェントビルダー、スケジュールされた cron ジョブ、および LLM が外部ツール(Web ブラウジング、カスタム API)を呼び出せる「インテリジェントツール選択」を備え、トークン使用量を低く抑えます。
  • マルチユーザーと権限 – Docker 展開は、ユーザーごとのアクセス制御を備えた複数ユーザーをサポートします。
  • 埋め込み可能なチャットウィジェット – 任意の Web サイトに配置できるウィジェットをエクスポートできます。
  • オーディオと音声 – ブラウザ API または OpenAI や ElevenLabs などの外部サービスを介した組み込みの文字起こし(STT)とテキスト読み上げ(TTS)。
  • プラグ可能なベクター DB – デフォルトは LanceDB ですが、PGVector、Pinecone、Chroma、Weaviate、Qdrant、Milvus、Astra DB などに交換できます。
  • テレメトリ(オプトアウト可能) – 匿名の使用イベントを PostHog に送信します。DISABLE_TELEMETRY=true で無効化できます。

実行方法

  • Docker – Docker、Railway、Render、AWS、GCP、DigitalOcean など向けのワンクリックデプロイボタン。
  • ベアメタル – 任意の Linux/Unix マシンでの手動セットアップ手順。
  • デスクトップ – macOS、Windows、Linux 用のプリビルドバイナリ。
  • モバイル – 別のリポジトリでオープンソースの Android クライアントを提供。

典型的なワークフロー

  1. インストール(Docker またはデスクトップ)。
  2. LLM の認証情報を追加するか、ローカルエンジンを有効にします。
  3. ドキュメントをアップロードします。コレクターが解析し、選択したベクター DB に埋め込みを保存します。
  4. Web UI を開き、チャットを開始します – システムが関連チャンクを取得し、オプションでエージェントを実行し、応答を返します。
  5. (オプション)自動化のためにスケジュールタスクまたはカスタムエージェントを作成します。

対象ユーザー – 独自ドキュメント上で推論できるプライベートでカスタマイズ可能なチャットインターフェースを必要とするチームや個人、データ機密性の高いユースケース向けにローカルモデルを実行したい場合、またはコードを書かずに AI エージェントを試したい場合。

ライセンス – MIT(オープンソース)。

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트