beclab/Olares

解決する課題

Olaresは、サードパーティのクラウドAIサービスを利用する際のプライバシーとコストの懸念に対処します。AIを「自宅」に持ち込むことで、ユーザーは自身のハードウェア上でエージェントや大規模言語モデルを実行できるようになり、機密性の高い個人データ（ファイルやメッセージなど）が外部サーバーに保存されるのではなく、ユーザー自身の管理下に留まることを保証します。

仕組み

Kubernetes上に構築されたOlaresは、Linuxホストをセルフホスト型のAIプラットフォームへと変貌させます。計算、ストレージ、ネットワーキングのための統合された環境を提供し、Webブラウザまたはコマンドラインインターフェースから管理できます。システムには、GPUプーリング（タイムスライシングおよびメモリスライシング対応）、安全なアクセスのためのプライベートVPN、オープンソースAIアプリケーションをワンクリックでインストールできるマーケットプレイスなどの機能が含まれています。

対象ユーザー

個人ユーザー: 生成AIやパーソナルエージェントをプライベートに実行したい方。
小規模チーム: 自動化とデータ管理のために、統合されたセルフホスト型のワークスペースを探しているチーム。
開発者: 隔離された環境でエージェント型アプリケーションを構築、テスト、ホストしたい開発者。

ハイライト

ワンクリック・ローカルAI: 専用のマーケットプレイスからオープンソースのモデルやアプリを簡単にインストール。
加速されたコンピューティング: 異なるノード間でGPUを管理・プール。
エージェントネイティブな管理: AIエージェントがOSを操作できるように、「Agent Skills」を備えたCLIを使用。
包括的なシステムアプリ: ファイル、ストレージ、およびLarePassを介した安全なアクセスのための組み込みツールを含む。