acon96/home-llm

Home LLM – 로컬 AI for Home Assistant

이것이 무엇인가

• 조명, 잠금 장치, 기후, 미디어 등을 제어하기 위해 로컬에서 실행되는 대규모 언어 모델(LLM)과 대화할 수 있게 해주는 Home Assistant 사용자 지정 통합입니다.
• 자연어 요청을 Home Assistant 서비스 호출로 변환하는 작고 미세 조정된 모델(최대 3B 매개변수) 세트가 포함되어 있습니다.

작동 방식

1. LLM 백엔드 – 통합은 llama.cpp를 통해 모델을 직접 실행하거나 Ollama, 일반 OpenAI 호환 API, llama.cpp 서버, Anthropic 등과 같은 외부 서버에 연결할 수 있습니다.
2. 대화 에이전트 – Home Assistant UI를 통해 채팅하거나 음성 제어를 위해 음성-텍스트/텍스트-음성 파이프라인을 통해 텍스트를 전달할 수 있습니다.
3. AI 작업 – 자동화가 LLM을 호출하여 구조화된 데이터를 생성하거나, 정보를 추출하거나, 동적 콘텐츠를 만들 수 있습니다.

주요 기능

• 완전 로컬 – 클라우드 불필요; 의도적으로 외부 API를 사용하지 않는 한 데이터는 하드웨어에 유지됩니다.
• 저전력 기기에서 실행 – 모델은 Raspberry Pi(CPU 전용) 또는 적당한 Home Assistant 호스트에서 실행할 수 있을 만큼 작습니다.
• 다국어 지원 – 영어, 독일어, 프랑스어, 스페인어, 폴란드어가 기본 지원됩니다.
• 유연한 백엔드 – 가장 간단한(llama.cpp) 또는 GPU 가속 서버(Ollama, OpenAI 호환, Anthropic 등)를 선택하세요.
• 도구 호출 / AI 작업 – 통합은 도구 호출 JSON을 구문 분석하고, 잘못된 출력을 자동 복구하며, 결과를 Home Assistant 자동화에 다시 공급할 수 있습니다.

시작하기

1. Home Assistant Community Store(HACS)를 통해 설치 – README의 배지는 HACS 항목으로 직접 연결됩니다.
2. 설정 가이드(docs/Setup.md)를 따라 백엔드를 구성하고 모델을 선택하세요.
3. 선택적으로 Hugging Face에서 사전 미세 조정된 Home 모델 중 하나를 다운로드하세요(예: Home‑Llama‑3.2‑3B 또는 Home‑FunctionGemma‑270m).
4. 대화 UI를 사용하거나 음성 파이프라인을 연결하세요; 고급 사용 사례를 위해 AI 작업 서비스를 호출하는 자동화를 만드세요.

모델 카탈로그

모델	매개변수	HuggingFace 링크
Home‑Llama‑3.2	3 B	https://huggingface.co/acon96/Home-Llama-3.2-3B
Home‑FunctionGemma	270 M	https://huggingface.co/acon96/Home-FunctionGemma-270m
(이전) Home‑3B‑v3, Home‑1B‑v3 등	1‑3 B	README의 다양한 링크

확장 / 학습

• 저장소에는 데이터 세트(Home-Assistant-Requests-V2)와 학습 스크립트(train/README.md)가 포함되어 있어 자체 모델을 미세 조정할 수 있습니다.
• 모든 지시 튜닝 모델은 문맥 내 학습을 통해 사용할 수 있습니다; 통합은 Qwen3, Llama 3, Mistral과 같은 일반 모델에 대한 예제 프롬프트를 제공합니다.

버전 하이라이트

• v0.5.0(최신) – Home Assistant의 채팅 API로 전환, 자동 대화 정리, 내장 문법, 텍스트 생성 웹 UI 백엔드 제거.
• 최근 릴리스는 백엔드 안정성을 개선하고, Anthropic 지원을 추가하며, 도구 호출 구문 분석을 개선합니다.

대상 사용자

• 데이터를 클라우드로 보내지 않고 AI 기반 음성/채팅 제어를 원하는 Home Assistant 사용자.
• Raspberry Pi 또는 유사한 저전력 하드웨어에서 Home Assistant를 실행하는 취미 사용자.
• 플러그 앤 플레이 LLM 통합과 사용자 지정 모델 실험이 필요한 개발자.

---

위의 모든 정보는 저장소의 README에서 직접 가져온 것입니다.