software-mansion-labs/private-mind

해결하는 문제

Private Mind는 모바일 기기에서 완전히 오프라인으로 개인정보 보호가 가능한 AI 경험을 제공합니다. 클라우드 기반 AI 서비스에 의존하지 않아 데이터 프라이버시, 구독 비용, 인터넷 연결 의존성에 대한 우려를 제거합니다.

작동 방식

이 앱은 사용자의 기기에서 로컬로 AI 모델을 실행합니다. 모델은 처음에 Hugging Face에서 다운로드되지만, 이후의 처리(채팅, 문서 검색, 음성-텍스트 변환 등)는 모두 기기 내에서 이루어집니다. 지원되는 모델 중에서 선택하거나 사용자 정의 모델을 추가할 수 있으며, 시스템 프롬프트 프리셋을 통해 AI의 동작을 사용자 정의할 수 있습니다.

대상 사용자

클라우드로 데이터를 전송하지 않고도 스마트폰에서 문서와 대화하거나 시각 기능을 갖춘 모델을 사용하고 싶은, 프라이버시를 중시하는 사용자들입니다.

주요 기능

• 기기 내 RAG: 로컬 임베딩과 검색을 사용해 PDF, TXT, Markdown, HTML, CSV 파일과 대화 가능.
• 다중 모달 기능: 이미지 분석이 가능한 시각 모델과 기기 내 음성 입력을 지원.
• 대화 분기: 어떤 메시지에서든 대화를 분기시켜 다른 경로를 탐색할 수 있음.
• 하드웨어 벤치마크: 특정 기기에서 모델 성능, 메모리 사용량, 속도를 측정할 수 있는 내장 도구.
• 완전 오프라인: 모델을 다운로드한 후에는 인터넷 연결 없이도 작동 가능.