acon96/home-llm

解決的問題

Home LLM 允許使用者使用完全在本地執行的大語言模型（LLM）來控制其 Home Assistant 智能家居。這消除了對雲端訂閱的需求，並確保敏感的家庭資料始終私密且由使用者完全掌控。

工作原理

此專案由兩個主要元件組成：一個 Home Assistant 自訂整合與一組專用 AI 模型。整合作為橋樑，將智慧家居裝置與 LLM 後端（如 Llama.cpp、Ollama 或 OpenAI 相容伺服器）連接。"Home" 模型是經過特別微調的小型高效 LLM（參數少於 50 億），能將自然語言請求轉換為可執行的 Home Assistant 服務呼叫。

適用對象

使用 Home Assistant 的智慧家居愛好者，希望在不依賴外部雲端服務提供商的情況下實現基於 AI 的語音或聊天控制，特別是那些在 Raspberry Pi 等低效能硬體上運行的使用者。

主要亮點

• 隱私優先：完全在本地執行，確保資料永遠不會離開本地網路。
• 低硬體需求：優化後的模型可在無 GPU 的低功耗裝置上運行。
• 彈性後端支援：支援多種本地引擎（Llama.cpp、Ollama）和外部 API（OpenAI、Anthropic）。
• 廣泛的裝置支援：可控制燈光、開關、風扇、門鎖、氣候、吸塵器等。
• AI 任務自動化：可用於產生結構化資料和動態內容，用於家庭自動化。
• 多語言支援：內建支援英語、德語、法語、西班牙語和波蘭語。