beclab/Olares

Open-Source Personal Cloud OS for Always-On Agents

解決的問題

Olares 解決了使用第三方雲端 AI 服務帶來的隱私與成本問題。透過將 AI 帶回「家中」，它允許使用者在自己的硬體上執行代理與大型語言模型，確保敏感的個人數據（如檔案與訊息）保留在使用者控制之下，而不是儲存在外部伺服器上。

工作原理

基於 Kubernetes 構建，Olares 將 Linux 主機轉換為自託管的 AI 平台。它為運算、儲存與網路提供了一個統一的環境，可以透過網頁瀏覽器或命令列介面進行管理。該系統包括 GPU 資源池化（支援時間分片與記憶體分片）、用於安全存取的私有 VPN，以及用於一鍵安裝開源 AI 應用程式的市集。

適用對象

  • 個人使用者：希望私密執行生成式 AI 與個人代理的使用者。
  • 小型團隊：正在尋找用於自動化與數據管理的統一、自託管工作空間的團隊。
  • 開發者：希望在隔離環境中構建、測試與託管代理型應用程式的開發者。

亮點

  • 一鍵本地 AI：可以從專用市集輕鬆安裝開源模型與應用程式。
  • 加速運算：跨不同節點管理並池化 GPU。
  • 代理原生管理：使用帶有「Agent Skills」的 CLI，使 AI 代理能夠操作作業系統。
  • 全面的系統應用：包括用於檔案、儲存以及透過 LarePass 進行安全存取的內建工具。