abdulmominsakib/localmind
A mobile application designed to provide a beautiful, fast, and privacy-respecting interface for on device LLM and local LLM servers and cloud providers
해결하는 문제
LocalMind는 일반적인 AI 채팅 앱의 두 가지 큰 문제인 개인정보 보호와 비용 문제를 해결합니다. 클라우드 기반 챗봇은 활동을 추적하고 원격 서버에 대화를 저장하며 종종 구독료를 요구합니다. LocalMind는 모든 데이터를 기기에 보관하거나 사용자가 제어하는 서버와 직접 통신하므로 데이터가 비공개로 유지되며 숨겨진 비용이 발생하지 않습니다.
작동 방식
LocalMind는 Flutter로 구축된 모바일 앱(Android 및 iOS)입니다. 소형 언어 모델을 스마트폰에서 완전히 실행하거나(llamadart를 통해 llama.cpp로 GGUF 실행, 또는 flutter_gemma를 통해 LiteRT 실행), 외부 백엔드(Ollama, LM Studio, OpenRouter, Requesty 또는 모든 OpenAI 호환 API)에 연결할 수 있습니다. 이 앱에는 엄선된 모델을 다운로드하거나 HuggingFace에서 GGUF 파일을 가져오는 모델 관리자가 포함되어 있습니다. 채팅 기능으로는 스트리밍 응답, Markdown 및 구문 강조, DeepSeek R1과 같은 모델을 위한 확장 가능한 추론 로그, 메시지 편집 및 재생성, 저장된 프롬프트 템플릿, 메시지 변형, 임시 시크릿 채팅, 스마트한 답장 제안을 갖춘 세련된 인터페이스를 제공합니다. 음성 입력(음성 인식)과 출력(음성 합성)은 기본적으로 작동하며, 저지연 음성 대 음성 모드도 포함되어 있습니다. 시각 인식 모델에 이미지와 문서를 첨부할 수 있으며, 대화 도중 페르소나를 전환하거나 컨텍스트를 잃지 않고 활성 모델을 교체할 수 있습니다. 모든 대화 기록은 로컬에 저장되며 전체 텍스트 검색, 폴더, 고정, 로컬 아카이브를 통한 백업/복원이 가능합니다. 선택적인 클라우드 동기화는 종단간 암호화되며 사용자가 소유한 S3 버킷과만 통신합니다.
대상 사용자
LocalMind는 스마트폰에서 비공개적이고 자체 호스팅된 AI 채팅 경험을 원하는 모든 사용자에게 적합합니다. 특히 개인정보를 중시하는 사용자, 이미 PC에서 Ollama나 LM Studio를 실행 중인 개발자, 커스텀 MCP 도구를 사용하거나 로컬 API를 통해 다른 앱에 모델을 제공하려는 기술 애호가에게 매력적입니다. 세련된 UI 덕분에 기능을 희생하지 않으면서도 주류 AI 채팅 앱을 대체할 수 있는 훌륭한 선택지입니다.
주요 특징
- GGUF 및 LiteRT 모델을 통한 기기 내 완전 오프라인 추론 (인터넷 불필요)
- Ollama, LM Studio, OpenRouter, Requesty 또는 모든 OpenAI 호환 서버에 연결
- 커스텀 도구 및 통합을 위한 모델 컨텍스트 프로토콜 (MCP) 내장, 채팅별 및 전체 설정 지원
- 개인정보 보호 우선: 분석 기능 제로, 로컬 전용 저장소, 개인 서버로의 직접 트래픽
- 풍부한 채팅 기능: 스트리밍, Markdown, 추론 로그, 편집/재생성, 메시지 변형, 임시 채팅, 스마트 답장
- 음성 및 오디오: 음성 인식 받아쓰기, 속도 및 캐싱을 지원하는 음성 합성 재생, 실시간 음성 대 음성 모드
- 멀티모달 첨부: 시각 인식 모델에 사진, 문서 및 기타 파일 전송
- 페르소나 관리, 실시간 모델 교체, 검색 및 폴더를 통한 전체 대화 기록 유지
- 전체 앱 데이터의 로컬 백업 및 복원; 사용자가 소유한 S3 버킷으로의 선택적 종단간 암호화 클라우드 동기화
- 15개 언어 지원, 다크 테마 기본 적용 및 채팅 매개변수의 상세한 사용자 지정 가능
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트