oriveo/oriveo

해결하는 문제

Oriveo Community Edition은 로컬 우선(local-first) 오픈소스 AI 채팅 클라이언트로, 사용자가 자신의 API 키(BYOK)를 사용하여 다양한 제공업체의 여러 AI 모델과 상호작용할 수 있게 합니다. 중간 업체의 구독이 필요 없으므로, 추가 비용이나 추적 없이 모델 제공업체의 정가로 직접 결제할 수 있습니다.

작동 방식

이 프로젝트는 공통 요청 사양을 공유하는 세 가지 네이티브 클라이언트(iOS, Android, Web)를 제공합니다. 사용자는 15개의 내장 제공업체에 대한 자신의 API 키를 입력하거나, 호환되는 엔드포인트를 통해 로컬 모델 서버(Ollama 또는 vLLM 등)에 연결할 수 있습니다.

• iOS 및 Android: 요청이 기기에서 제공업체로 직접 전송됩니다.
• Web: CORS 제한을 우회하기 위해 요청은 일반적으로 자체 호스팅된 Next.js 라우트 핸들러를 통과하지만, 일부 엔드포인트는 직접 호출됩니다.
• 로컬 저장소: 대화, 메모, 첨부 파일은 클라우드 계정이 아닌 기기에 저장됩니다.

대상 사용자

개인정보 보호를 중시하고 계정 없는 경험을 선호하며, 타사 구독 서비스 비용을 지불하지 않고 단일 인터페이스에서 여러 AI 모델과 제공업체를 관리하려는 사용자를 위해 설계되었습니다.

주요 특징

• 멀티 제공업체 지원: OpenAI, Anthropic, Google Gemini, DeepSeek를 포함한 15개 제공업체 네이티브 통합.
• 로컬 우선 개인정보 보호: 계정 불필요. 데이터는 기기에 보관되며 수동 내보내기/백업 옵션을 제공합니다.
• 로컬 모델 통합: llama.cpp, Ollama, LM Studio, vLLM 지원.
• 고급 채팅 기능: 추론 블록, 인용, 첨부 파일 지원(PDF, Office, EPUB 등), MCP 도구 통합 포함.
• 교차 검증: 답변을 두 번째 모델에 전달하여 검토하는 기능.
• 메모리: 사용자에 대한 지속적인 사실 정보를 새로운 대화로 이어감.
• 기기 내 비용 추적: 실제 응답 보고서를 기반으로 메시지 및 제공업체별 사용 비용 계산.