Osmantic/ODS

ODS V3 Pre-Release: Public testing and refinement ahead of the official V3 launch. Turn your PC, Mac, or Linux box into a private AI server.

解決する課題

ODS (Osmantic Deployment System) は、プライベートなローカルAIサーバーを構築する際の複雑さを解消します。推論、チャットインターフェース、自動化のための複数のツールを個別にインストール・設定する代わりに、ODSはワンコマンドでこれらをインストールし、自身のハードウェア上で一貫したプライベートAIスタックとして連携させます。

仕組み

ODSは、一連のインストーラー（Linux/macOS用はbash、Windows/WSL2用はPowerShell）を使用して、コンテナ化されたサービス群をデプロイします。ユーザーのGPU（NVIDIA、AMD、またはApple Silicon）を自動的に検出し、適切な推論エンジン（llama-serverなど）とモデルを選択します。このシステムは、チャット用のOpen WebUI、ベクトルストレージ用のQdrant、ワークフロー用のn8nなど、複数のオープンソースコンポーネントを統合しており、集中管理ダッシュボードを通じてGPUの状態やサービスの健全性を監視できます。

対象ユーザー

CUDAドライバー、Docker設定、手動でのAPI接続に関する深い専門知識がなくても、ワークステーションやサーバー上でプライベートAIをローカルに実行したい個人、ホームラボ愛好家、専門家向けに設計されています。

特徴

  • ワンコマンドセットアップ：ハードウェアを自動検出し、スタック全体を構成します。
  • デフォルトでプライベート：クラウド要件やテレメトリは一切ありません。データやチャット履歴はローカルマシン内に留まります。
  • 包括的なツールセット：ローカルLLM推論、画像生成 (ComfyUI)、音声認識 (Whisper)、音声合成 (Kokoro) を含みます。
  • エージェントワークフロー：自動化のためにn8nを統合し、PortalやHermesといった専用エージェントが含まれています。
  • RAGと検索：Qdrantによる検索拡張生成 (RAG) と、SearXNGによるプライベートなウェブ検索を標準サポートしています。
  • クロスプラットフォーム：Linux、macOS (Apple Silicon)、Windows (WSL2/Docker Desktop経由) をサポートしています。

関連

  • プロジェクト
    OpenVoiceOS/ovos-installer

    Linux または macOS デバイスにオープンソースの Open Voice OS 音声アシスタント（オプションのローカル音声、Home Assistant 統合、LLM フォールバック、マルチデバイス HiveMind サポート付き）をセットアップするワンコマンドインストーラー。

  • プロジェクト
    osaurus-ai/osaurus

    Osaurusは、プライベートなAIエージェントをローカルで実行できるmacOS専用アプリです。エージェントは独自のメモリを持ち、隔離されたLinux VMまたはmacOSサンドボックスでコードを実行でき、ツール（ファイルシステム、ブラウザ、Appleアプリ、画像生成）を呼び出し、暗号化されたチャネルで安全に通信します。このプラットフォームはローカルモデル（MLX、Apple Foundation Models、Liquid AI）またはクラウドAPI（OpenAI、Anthropicなど）と連携可能で、プライバシー・フィルタリング、暗号的アイデンティティ、プラグインサポート、音声入力、システムワイドショートカットを備えています。Homebrewまたは.dmgからインストール可能。Apple Silicon搭載macOS 15.5+が必要です。

  • プロジェクト
    beclab/Olares

    Olares は、独自の Linux マシン（またはクラスター）上で動作するオープンソースのパーソナルクラウドオペレーティングシステムです。Kubernetes 上に構築されており、Web UI と一連のシステムアプリ（Files、Vault、Market、Dashboard）に加え、AI 専用エージェント（Lares、OpenClaw）を提供します。ワンクリックモデルインストール、GPU プーリング、プライベートネットワーキング、CLI「エージェントスキル」により、個人や小規模チームは LLM、生成 AI ツール、ホームオートメーション、コラボレーションワークスペースをホストしながら、データとコンピューティングをローカルに維持できます。

  • プロジェクト
    jaylfc/taOS

    taOSは、余っているハードウェア（ノートPC、Raspberry Pi、ゲーミングPC、スマートフォン）をプライベートな分散コンピューティングクラスターに変える、セルフホスト型のAIエージェントプラットフォームです。完全なWebデスクトップ環境、フレームワークに依存しないエージェント、セルフホスト型のメモリシステム (taOSmd)、そして大規模なアプリ/モデルカタログを提供します。オフラインファーストで設計されており、クラウドはオプションです。現在はベータ版であり、一部未完成な部分や未検証のインストールマニフェストが含まれています。

  • プロジェクト
    onyx-dot-app/onyx-foss

    Onyx は、50 以上のアプリケーションに接続し、AI エージェントに組織の内部データへの安全で関連性の高いアクセスを提供する、セルフホスト型の知識・コンテキストレイヤーです。