milady-ai/milady

terminally online

Milady – 개인 정보 중심의 로컬 실행 AI 보조자

무엇인가요 – Milady는 기본적으로 사용자의 컴퓨터에서 실행되는 개인용 AI 보조자입니다. 오픈소스 elizaOS 스택 기반으로 제작되었으며, 호스팅된 Eliza Cloud 또는 다른 곳에서 실행 중인 자체 호스팅 Milady 백엔드에도 연결할 수 있습니다. 목표는 응답이 빠르고, 귀여운 (3D 아바타) 외관을 지니며, 명시적으로 원격 백엔드를 활성화하지 않는 한 절대 '집으로 전화를 걸지 않는' AI 여자친구/보조자입니다.

주요 기능

  • 로컬 우선 추론 – 핵심 에이전트는 CPU/GPU에서 실행되며, 온보딩 중에 모델 제공자(Anthropic Claude, OpenAI GPT, 또는 로컬 Ollama 모델)를 선택할 수 있습니다.
  • 다중 플랫폼 프론트엔드 – WebGL 기반 3D 아바타를 갖춘 데스크톱 앱(macOS, Windows, Linux), Telegram/Discord 연결, 브라우저 기반 대시보드 UI.
  • 에너지 인식형 데스크톱 앱 – 창이 숨겨졌거나 노트북이 배터리로 작동할 때 렌더링을 제한하여 GPU 사용량을 낮춥니다.
  • 액션 스트리밍 – 긴 실행 시간의 도구 호출(예: 웹 검색, 파일 작업)은 기존 줄을 덮어쓰는 방식으로 프로그레시브 업데이트로 UI에 스트리밍됩니다.
  • DeFi 통합 – BNB 스마트체인(PancakeSwap 거래, 지갑 생성, Binance Skills Hub를 통한 미모 토큰 탐색) 지원. 개인 키는 로컬에서 제공하거나 클라우드 백엔드에서 관리할 수 있습니다.
  • 플러그인 시스템 – 대시보드 또는 CLI에서 설치 가능한 '스킬'(예: meme-rush 스킬) 레지스트리가 있습니다.
  • 원격 백엔드 모드 – VPS, 홈랩, 또는 Tailscale로 노출된 서버에서 Milady 백엔드를 실행하고 API 토큰을 사용해 데스크톱/웹 UI와 안전하게 통신할 수 있습니다.

설치 방법

플랫폼 설치 방법
macOS (Apple Silicon & Intel) Releases 페이지에서 서명된 DMG 다운로드
Windows Releases에서 설치 프로그램 EXE 다운로드
Linux (x86_64) Releases에서 tar.gz 설치 프로그램 다운로드 후 ./installer 실행
Android Google Play 스토어 또는 Releases에서 직접 APK
iOS 곧 출시 (App Store)
CLI 전용 npm install -g miladyai 또는 원라인 `curl -fsSL https://get.milady.ai

일반적인 첫 실행 흐름

  1. milady setup (또는 설치 프로그램)을 실행합니다.
  2. 인터랙티브 마법사가 성격 (예: Sakuya, Reimu)과 목소리 스타일을 선택하도록 요청합니다.
  3. 언어 모델 선택 – Anthropic, OpenAI, 또는 로컬 Ollama 모델에 연결할 수 있습니다.
  4. (옵션) BNB 체인 거래를 원하시면 EVM 개인 키를 제공합니다.
  5. 대시보드는 http://localhost:2138에서 사용 가능하며, 터미널에 실시간 활동을 표시하는 TUI가 나타납니다.

명령줄 개요

milady                 # 인터랙티브 UI + 대시보드 시작 (기본값)
milady start           # API 서버만 실행 (TUI 없음)
milady dashboard       # 브라우저에서 웹 UI 열기
milady plugins install <name>   # 스킬 추가 (예: meme-rush)
milady config get <key>         # 설정 값 읽기
milady doctor          # 건강 진단 실행

원격 배포 – MILADY_API_BIND=0.0.0.0을 설정하고 강력한 MILADY_API_TOKEN을 생성하면 다른 기기에서 백엔드에 접근할 수 있습니다. Tailscale 터널과 함께 사용하거나 HTTPS 뒤에 노출한 후, 온보딩 중에 데스크톱 또는 웹 UI를 원격 주소로 지정합니다.

보안 주의사항

  • 기본적으로 API는 127.0.0.1에만 바인딩되며, 외부 접근은 불가능합니다.
  • API를 공개할 경우 MILADY_API_TOKEN을 설정하고, 필요에 따라 MILADY_ALLOWED_ORIGINS를 설정하여 호출 가능한 대상을 제한해야 합니다.
  • 데스크톱 앱은 Eliza Cloud 백엔드를 활성화하지 않는 한 대화 데이터를 업로드하지 않습니다.

왜 중요한가요 – Milady는 로컬 LLM 추론, 플러그인 기반 도구 시스템, 그리고 선택적 블록체인 상호작용을 통합한 완전한 스택의 개인정보 중심 AI 보조자의 실례를 보여줍니다. 이는 항상 온라인인 SaaS 챗봇의 대안으로 개발자들이 탐구하고 있는 '로컬 우선 AI 에이전트' 패러다임의 구체적인 예시입니다.

관련

  • 프로젝트
    cosmicstack-labs/mercury-agent

    Mercury는 로컬에서 실행되며 권한이 강화된 AI 어시스턴트로, CLI, 웹 UI, Telegram을 통해 대화 가능하며, SQLite 기반의 '제2의 뇌'로 기억을 유지하고, 일일 토큰 예산을 관리하며 커뮤니티 기여 스킬로 확장 가능합니다. 1줄 스크립트로 설치(노드 필요 없음) 또는 npm을 통해 설치한 후 `mercury up`을 실행하여 백그라운드 서비스로 항상 실행할 수 있습니다.

  • 프로젝트
    theJayTea/WritingTools

    Writing Tools는 Windows, Linux, macOS용 무료 오픈소스 데스크톱 앱으로, 키보드 단축키로 컴퓨터 어디서든 LLM을 호출할 수 있습니다. 문법 검토, 재작성, 톤 변경, 번역, 웹 페이지 또는 유튜브 자막 요약, 모델과의 대화가 가능합니다. Gemini, OpenAI, Anthropic 등 클라우드 API 또는 Ollama, llama.cpp, Apple-silicon MLX를 통해 로컬 모델을 실행할 수 있습니다. 텔레메트리 없이 API 키는 로컬에 저장되는 개인정보 중심 설계이며, GPL-v3 라이선스로 제공됩니다.

  • 프로젝트
    lemonade-sdk/lemonade

    Lemonade는 CPU, GPU 또는 AMD NPU에서 LLM, 음성, TTS 및 이미지 모델을 실행할 수 있는 커뮤니티 주도의 로컬 AI 서버(또는 임베디드 바이너리)입니다. OpenAI 스타일의 API를 모방하고, 모델 관리자, 하드웨어 자동 최적화 백엔드, 그리고 즉시 통합 가능한 마켓플레이스를 포함합니다.

  • 프로젝트
    OpenMinis/OpenMinis

    OpenMinis는 iOS 및 안드로이드용 오픈소스 모바일 AI 에이전트로, 어떤 LLM(Claude, GPT, Gemini 등)도 디바이스에서 직접 실행할 수 있습니다. 사전화된 Alpine Linux 셸(iSH on iOS, PRoot on Android)을 제공하여 에이전트가 패키지 설치, 스크립트 실행, 파일 조작이 가능하며, 건강, 캘린더, 홈킷, 블루투스, 클립보드, 미디어 등 네이티브 디바이스 서비스를 도구로 사용할 수 있습니다. 사용자는 재사용 가능한 "스킬"(SKILL.md 포함 폴더)을 만들고, 별도의 워크스페이스로 작업을 정리할 수 있습니다. 일반적인 사용 사례로는 영양 기록, 아침 브리핑, 채팅에서 작업 추출, Obsidian 동기화, 공유 → 이벤트 자동화 등이 있습니다. 코드베이스는 iOS용 Swift/SwiftUI, 안드로이드용 Kotlin/Compose로 구성되며, GPL-v3 라이선스입니다.

  • 프로젝트
    vellum-ai/vellum-assistant

    A personal AI assistant with eight types of memory that learns user behavior and takes proactive actions across multiple apps and communication channels.