opensquilla: 무엇인지, 어떤 문제를 해결하는지 & 왜 인기를 얻고 있는지

해결하는 문제

OpenSquilla는 특정 작업을 처리할 수 있는 가장 비용 효율적인 모델로 요청을 라우팅하여 비용을 절감하고 성능을 향상시키도록 설계된 토큰 효율적인 AI 에이전트입니다. CLI, Web UI, 그리고 다양한 채팅 채널(Telegram, Slack, Discord 등)을 통해 AI 에이전트와 상호작용할 수 있는 통합 인터페이스를 제공합니다.

작동 방식

이 시스템은 대화의 각 턴을 분석하고 가장 저렴하고 호환 가능한 LLM으로 안내하는 로컬 모델 라우터(SquillaRouter)를 갖춘 마이크로커널 아키텍처를 사용합니다. 20개 이상의 제공업체(OpenAI, Anthropic, Ollama 포함)를 지원하는 플러그형 제공업체 레이어, 지속적인 메모리, 실행을 위한 계층형 샌드박스, 그리고 모든 진입점에서 일관된 운영 루프를 유지하기 위한 내장 웹 검색 및 온디바이스 임베딩을 통합합니다.

대상 사용자

로컬 또는 클라우드 제공업체를 통해 배포할 수 있고, 기존 통신 채널에 통합할 수 있으며, 토큰 사용량과 예산에 최적화된 다재다능한 AI 에이전트를 원하는 사용자를 위해 구축되었습니다.

주요 특징

• 토큰 효율적인 라우팅: 각 요청에 대해 가장 저렴하고 역량 있는 모델을 자동으로 선택합니다.
• 멀티채널 지원: Web UI, CLI, 그리고 Slack, Discord, Telegram과 같은 채팅 플랫폼 전반에서 동일한 동작을 보장합니다.
• 광범위한 제공업체 호환성: 플러그형 레이어를 통해 20개 이상의 LLM 제공업체를 지원합니다.
• 통합 도구: 지속적인 메모리, 계층형 샌드박스, 온디바이스 임베딩 및 웹 검색 기능을 포함합니다.