acon96/home-llm

해결하는 문제

Home LLM은 사용자가 로컬에서 완전히 실행되는 대규모 언어 모델(LLM)을 사용하여 Home Assistant 스마트홈을 제어할 수 있도록 합니다. 이로 인해 클라우드 구독이 필요 없으며, 민감한 가정 데이터가 항상 사용자의 통제하에 있으며 사생활이 보호됩니다.

작동 방식

이 프로젝트는 두 가지 주요 구성 요소로 구성됩니다: Home Assistant 커스텀 통합 및 전용 AI 모델 세트입니다. 통합은 스마트홈 장치와 LLM 백엔드(Llama.cpp, Ollama, 또는 OpenAI 호환 서버 등)를 연결하는 다리 역할을 합니다. "Home" 모델은 자연어 요청을 실행 가능한 Home Assistant 서비스 호출로 변환하도록 특별히 미세 조정된 소형이고 효율적인 LLM(50억 파라미터 미만)입니다.

대상 사용자

Raspberry Pi와 같은 저사양 하드웨어에서 작동하는 사용자를 포함하여, 외부 클라우드 제공업체에 의존하지 않고 AI 기반 음성 또는 채팅 제어를 원하는 Home Assistant 사용자들입니다.

주요 특징

• 개인정보 우선: 완전히 로컬에서 실행되어 데이터가 로컬 네트워크를 벗어나지 않습니다.
• 낮은 하드웨어 요구 사항: GPU 없이도 저전력 장치에서 작동하는 최적화된 모델을 제공합니다.
• 유연한 백엔드 지원: 다양한 로컬 엔진(Llama.cpp, Ollama)과 외부 API(OpenAI, Anthropic)를 지원합니다.
• 광범위한 장치 지원: 조명, 스위치, 팬, 자물쇠, 기후 제어, 진공 청소기 등 다양한 장치를 제어할 수 있습니다.
• AI 작업 자동화: 홈 오토메이션을 위한 구조화된 데이터 및 동적 콘텐츠 생성에 사용할 수 있습니다.
• 다국어 지원: 영어, 독일어, 프랑스어, 스페인어, 폴란드어를 내장 지원합니다.