natively-cluely-ai-assistant: 장치 내 STT와 로컬 RAG 메모리를 갖춘 은밀한 실시간 인터뷰 코파일럿

해결하는 문제

Natively는 고위험 실시간 대화 중에 즉각적이고 탐지되지 않는 지원을 제공하도록 설계된 실시간 AI 인터뷰 코파일럿 및 회의 어시스턴트입니다. 유사한 도구에 대한 비싼 월 구독이 필요 없으며, 데이터를 클라우드 서버가 아닌 로컬에 저장함으로써 사용자 프라이버시를 보장합니다.

작동 원리

이 시스템은 Rust 기반 네이티브 오디오 캡처와 Zero-Copy ABI 전송을 사용하여 초저지연(<500ms)을 달성합니다. macOS와 Windows에서 하드웨어 가속을 활용한 최적화된 ONNX 모델(예: Whisper 및 Moonshine)을 이용해 장치 내 음성-텍스트(STT)를 수행합니다. 도구는 듀얼 채널 인텔리전스를 통해 시스템 오디오와 마이크 입력을 모두 캡처하고, OCR을 사용해 화면 내용을 분석한 뒤, 선택된 LLM( API 키 또는 로컬 Ollama 모델을 통해)으로 이 컨텍스트를 전달하여 은밀한 오버레이에서 실시간 응답을 생성합니다.

대상 사용자

기술, 행동, 시스템 설계 인터뷰를 준비하는 구직자와 영업, 채용, 일반 팀 회의 등에서 실시간 어시스턴트가 필요한 전문가들을 위한 도구입니다.

주요 특징

• Privacy-First Architecture: 기본적으로 전사본, API 키, 스크린샷을 로컬에 저장합니다.
• Stealth Mode: 감독 소프트웨어에 탐지되지 않으며, Dock에서 숨기고 프로세스 이름을 위장합니다.
• Local AI Capabilities: 로컬 Ollama 모델과 장치 내 Whisper STT를 사용해 100% 오프라인 모드를 지원합니다.
• Local RAG Memory: SQLite 벡터 검색을 사용해 사용자가 자신의 회의 기록을 조회할 수 있게 합니다.
• Flexible LLM Integration: GPT, Claude, Gemini, Groq에 대한 Bring-your-own-key (BYOK) 지원을 제공합니다.
• Custom Personas: 기술 인터뷰, 영업 등 7가지 맞춤 모드가 있으며, 각각 특정 시스템 프롬프트와 템플릿을 제공합니다.