localgpt-app/localgpt

LocalGPT – AI 優先的 3D 世界構建器與純本地助手

它是什麼 – 一個基於 Rust 的單一二進位應用程式，讓您可以：

• 生成可探索的 3D 場景：使用 Bevy 遊戲引擎，透過自然語言提示生成（localgpt-gen）。
• 運行本地 AI 助手：具備持久化、可搜尋記憶、自主背景任務及輕量級 HTTP API（localgpt）。

這兩個組件完全在您的機器上運行——無需 Docker、Node 或 Python——並且可以與您指定的任何 LLM（Ollama、LM Studio、OpenAI、Anthropic 等）對接。

---

快速入門 (使用者)

# 安裝世界構建器二進位檔案
cargo install localgpt-gen
# 安裝助手二進位檔案
cargo install localgpt

運行提示驅動的場景：

localgpt-gen "Create a desert scene with pyramids and a UFO hovering above"

啟動聊天助手：

localgpt chat          # 互動式 REPL
localgpt ask "What is the meaning of life?"
localgpt daemon start  # 啟動 HTTP API + Web UI

---

核心功能

組件	亮點
Gen 模式	參數化圖元、PBR 材質、燈光、行為（軌道、旋轉、路徑跟隨）、環境音效、匯出為 glTF/GLB 或 HTML、無頭批次模式、用於 IDE 整合的 MCP 伺服器
AI 助手	基於 Markdown 的持久化知識庫、全文 + 語意搜尋（SQLite FTS5 + sqlite-vec）、自主心跳任務隊列、多介面（CLI、Web UI、桌面 GUI、行動裝置）、沙盒執行（Landlock/seccomp, Seatbelt）、提示注入防禦
LLM 支援	適用於任何本地或雲端供應商 – LM Studio、Ollama、Anthropic、OpenAI、xAI、GLM、Vertex AI 以及通用 CLI 供應商
安全性	核心強制沙盒、HMAC 簽名策略檔案、審計鏈日誌
可擴展性	技能系統 – 您可以將整個世界儲存為可重複使用的「技能」，記憶系統會在不同會話中學習您的風格（調色盤、燈光、模板）

---

典型使用場景

• 遊戲或 VR 的快速原型設計 – 用簡單的英文描述場景，即可獲得可立即運行的 Bevy 專案。
• 創意腦力激盪 – 在無頭模式下迭代多種變體，用於批次生成或 CI 管線。
• 個人知識助手 – 將筆記、程式碼片段或研究儲存在本地、可搜尋的記憶中，並可透過 CLI 或 HTTP 查詢。
• 自動化 – 讓守護進程的心跳執行背景任務（例如：獲取網頁資料、更新世界），無需使用者互動。

---

運作原理

• Rust + Tokio – 用於守護進程和生成器的非同步執行環境。
• Bevy – 基於 ECS 的遊戲引擎，用於構建 3D 場景。
• SQLite – 儲存 Markdown 記憶；FTS5 用於關鍵字搜尋，sqlite-vec 用於基於嵌入的語意搜尋（嵌入由 fastembed 產生）。
• Axum – 輕量級 HTTP 伺服器，提供 Web UI 和 JSON 端點。
• eframe – 可選的原生 GUI 前端。

---

文件與社群

• 完整文件 – https://localgpt.app/docs
• Discord – https://discord.gg/spKRr6mRyp
• YouTube 演示 – https://www.youtube.com/watch?v=R__tg7YY0T8
• 部落格文章 – 解釋「世界即技能」的概念以及 4 個晚上的快速開發故事。

---

授權

Apache-2.0 – 個人與商業用途皆免費。