allenv0/SCM

Multimodal visual memory search on macOS

해결하는 문제

macOS의 개인 사진 및 비디오 라이브러리를 위한 개인용 로컬 우선 검색 엔진을 제공합니다. 파일을 클라우드에 업로드하지 않고도 AI를 사용하여 시각적 콘텐츠, 음성 대화, 화면 텍스트를 이해함으로써 방대한 미디어 컬렉션 속에 묻혀 있는 특정 순간이나 정보를 찾는 문제를 해결합니다.

작동 방식

이 애플리케이션은 완전히 Mac에서 실행되며, 로컬 머신 러닝 모델을 사용하여 미디어를 인덱싱합니다. 이미지 및 비디오 프레임의 임베딩을 생성하기 위해 비전 모델(CLIP 또는 SigLIP 등), 음성 대화 전사를 위해 Whisper, OCR을 위해 Tesseract를 사용합니다. 검색 시 앱은 이러한 로컬 인덱스에 대해 의미론적 매칭을 수행합니다. 또한 로컬 LLM(llama.cpp 경유)을 선택적으로 사용하여 미디어 라이브러리와 대화할 수 있으며, 이를 통해 자신의 파일을 기반으로 질문하고 인용된 답변을 받을 수 있습니다.

대상 사용자

엄격한 데이터 개인정보 보호를 유지하면서 개인 미디어 컬렉션을 정리하고 검색하려는 macOS 사용자를 위해 설계되었습니다. 타사 클라우드 서비스에 의존하지 않고 특정 장면, 대사, 또는 표시된 텍스트를 찾아야 하는 대규모 비디오 및 사진 아카이브를 보유한 사용자에게 특히 유용합니다.

주요 특징

  • 로컬 우선 개인정보 보호: 계정 없음, 클라우드 없음, 데이터 업로드 없음; 모든 추론은 사용자의 기기에서 실행됩니다.
  • 심층 비디오 검색: 비디오를 장면별로 세분화하여 특정 이벤트가 발생하는 정확한 순간으로 이동할 수 있습니다.
  • 멀티모달 검색: 시각적 의미, 음성 대화, 표시된 텍스트 (OCR) 및 파일 이름을 통한 검색을 지원합니다.
  • 스마트 정리: 이미지 내의 스크린샷과 이메일 주소를 자동으로 감지하며, 사용자 지정 검색 쿼리를 영구 탭으로 저장하는 기능을 제공합니다.
  • 확장 가능한 AI: 전환 가능한 비전 모델과 라이브러리에 대한 대화형 쿼리를 위한 선택적 로컬 LLM 통합.

관련

  • Dispatch
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트