stardomains3/oxproxion

해결하는 문제

Oxproxion은 다양한 대규모 언어 모델(LLM)을 단일 인터페이스에서 사용할 수 있는 다기능 Android 채팅 앱입니다. 다양한 AI 제공업체를 사용할 때마다 다른 앱이나 웹 인터페이스를 전환할 필요 없이, 클라우드 기반 모델과 로컬 호스팅 모델 모두를 지원합니다.

작동 방식

이 앱은 API 또는 로컬 네트워크 엔드포인트를 통해 LLM에 연결합니다. 클라우드 모델은 OpenRouter와 통합되며, Ollama, LM Studio, llama.cpp, MLX LM, 또는 로컬 영역 네트워크(LAN)에서 실행 중인 Hermes Agent를 통해 로컬에서 호스팅되는 모델도 지원합니다. 코틀린 기반 아키텍처와 Jetpack 라이브러리, Ktor를 사용하여 대화 및 모델 상호작용을 관리합니다.

대상 사용자

자신의 홈 네트워크에서 로컬 LLM을 실행하는 사용자를 포함하여, 여러 AI 모델을 위한 중앙집중형이고 사용자 정의 가능한 채팅 인터페이스를 원하는 Android 사용자.

주요 기능

• 다중 모델 지원: 다양한 LLM 봇과 모델을 쉽게 전환 가능.
• 사용자 정의 페르소나: AI 행동을 안내하는 시스템 메시지 및 프리셋 라이브러리를 생성하고 관리 가능.
• 로컬 및 클라우드 통합: OpenRouter 외에도 Ollama, LM Studio 등의 로컬 서버에 연결 가능.
• 기기 도구: 파일 읽기/생성, 타이머, 알람 설정, 캘린더 이벤트 생성 등의 작업 수행 가능.
• 다중 모달 기능: 호환되는 모델에서는 이미지 생성 및 이미지와의 채팅 지원.
• 대화 모드: 음성 인식 및 텍스트 음성 변환 기능으로 손을 떼고 대화 가능.
• 로컬 데이터 관리: 대화 기록을 저장, 불러오기, 가져오기, 내보내기 가능하며, 기기 내에서 PDF로 내보내기 기능 제공.