acon96/home-llm

Home LLM – Home Assistant 向けローカル AI

概要

• ローカルで実行される大規模言語モデル（LLM）と対話して、照明、ロック、空調、メディアなどを制御できる Home Assistant カスタム統合。
• 自然言語リクエストを Home Assistant サービス呼び出しに変換する、小型の微調整済みモデル（最大 3B 参数）が付属します。

工作原理

1. LLM 后端 – 该集成可以直接通过 llama.cpp 运行模型，或连接到外部服务器，如 Ollama、通用 OpenAI 兼容 API、llama.cpp 服务器、Anthropic 等。
2. 对话代理 – 您可以通过 Home Assistant 界面聊天，或通过语音转文本/文本转语音管道进行语音控制。
3. AI 任务 – 自动化可以调用 LLM 来生成结构化数据、提取信息或创建动态内容。

主要功能

• 完全本地 – 无需云；数据保留在您的硬件上，除非您故意使用外部 API。
• 可在低功耗设备上运行 – 模型足够小，可以在 Raspberry Pi（仅 CPU）或任何普通的 Home Assistant 主机上运行。
• 多语言 – 开箱即用支持英语、德语、法语、西班牙语和波兰语。
• 灵活的后端 – 选择最简单的（llama.cpp）或 GPU 加速服务器（Ollama、OpenAI 兼容、Anthropic 等）。
• 工具调用 / AI 任务 – 该集成可以解析工具调用 JSON、自动修复格式错误的输出，并将结果反馈到 Home Assistant 自动化中。

入门指南

1. 通过 Home Assistant 社区商店（HACS）安装 – README 中的徽章直接链接到 HACS 条目。
2. 按照 设置指南（docs/Setup.md）配置后端并选择模型。
3. 可选：从 Hugging Face 下载预微调的 Home 模型之一（例如 Home-Llama-3.2-3B 或 Home-FunctionGemma-270m）。
4. 使用 对话 界面或连接语音管道；创建调用 AI 任务 服务的自动化以实现更高级的用例。

模型目录

模型	参数	HuggingFace 链接
Home-Llama-3.2	3 B	https://huggingface.co/acon96/Home-Llama-3.2-3B
Home-FunctionGemma	270 M	https://huggingface.co/acon96/Home-FunctionGemma-270m
（旧版）Home-3B-v3、Home-1B-v3 等	1-3 B	README 中的各种链接

扩展 / 训练

• 仓库附带数据集（Home-Assistant-Requests-V2）和训练脚本（train/README.md），如果您想微调自己的模型。
• 任何经过指令微调的模型都可以通过 上下文学习 使用；该集成提供了通用模型的示例提示，如 Qwen3、Llama 3、Mistral。

版本亮点

• v0.5.0（最新）– 切换到 Home Assistant 的聊天 API、自动对话修剪、内置语法、移除 text-generation-webui 后端。
• 最近的版本改进了后端稳定性、添加了 Anthropic 支持，并优化了工具调用解析。

适用人群

• 希望在不将数据发送到云端的情况下获得 AI 驱动的语音/聊天控制的 Home Assistant 用户。
• 在 Raspberry Pi 或类似低功耗硬件上运行 Home Assistant 的爱好者。
• 需要即插即用的 LLM 集成并希望尝试自定义模型的开发者。

---

以上信息均直接取自仓库的 README。