onyx-dot-app/onyx-foss

Open Source AI Platform - AI Chat with advanced features that works with every LLM

Onyx – 팀과 AI 에이전트를 위한 오픈소스 '컨텍스트 레이어'

Onyx는 Slack, Google Docs, GitHub 등 수십 가지 업무 앱에서 데이터를 수집하고, 검색 가능한 지식 저장소를 구축하며, 대규모 언어 모델(LLM)과 AI 에이전트에게 지식을 제공하는 자체 호스팅 플랫폼입니다. 이는 LLM이 공개 데이터뿐 아니라 최신의 기업 내부 정보를 기반으로 질문에 답할 수 있도록 하는 '지식/컨텍스트 레이어'로 위치 지정됩니다.

리포지토리가 제공하는 기능

핵심 서버 코드 (MIT 라이선스): 인덱싱 파이프라인, 벡터/키워드 저장소, 에이전트 및 UI 구성 요소가 통신하는 API를 실행합니다.
50개 이상의 SaaS 애플리케이션용 커넥터: 문서, 메타데이터, 권한을 내부 인덱스로 가져옵니다.
에이전트 기반 RAG 스택 – 하이브리드 벡터+키워드 인덱스와 쿼리에 가장 관련 있는 청크를 선택하는 커스텀 검색 에이전트를 포함합니다.
웹 UI 및 데스크톱 클라이언트: 시스템과 대화하고, 사용자 정의 에이전트를 만들며, 생성된 아티팩트를 확인할 수 있습니다.
통합 기능 – Slack/Discord 봇, Chrome 확장 프로그램, 임베디드 위젯을 통해 어디서든 Onyx에 질의할 수 있습니다.
Docker, Kubernetes, Helm/Terraform용 배포 스크립트 및 클라우드 제공업체 가이드.
두 가지 배포 모드 – 벡터 스토어, 백그라운드 워커, 모델 추론을 포함하는 기능이 풍부한 'Standard' 모드와, 채팅 UI만 포함되며 RAM <1GB, 인덱싱 없이 가벼운 'Lite' 모드.

주요 기능

기능	기능 설명
에이전트 기반 RAG	가장 관련성 높은 내부 문서를 검색하여 LLM에 제공함으로써 토큰 사용량을 줄이고 정확도를 향상시킵니다.
딥 리서치	다단계 워크플로우를 통해 에이전트가 여러 출처에서 정보를 수집, 통합, 인용할 수 있습니다.
사용자 정의 에이전트	특정 지식 세트, 사용자 정의 프롬프트, 액션 호출 기능을 가진 에이전트를 정의할 수 있습니다.
웹 검색	Serper, Google PSE, Brave, SearXNG, Firecrawl, Exa 등과 같은 옵션 기반 실시간 웹 검색.
외부 액션 / MCP	연결된 앱의 API를 호출하여 작업을 종단 간 완료할 수 있습니다 (예: Jira 티켓 생성, Notion 페이지 업데이트).
보안 사전	코드 실행 또는 중간 아티팩트 처리를 안전하게 격리된 환경에서 수행합니다.
아티팩트 생성	워크플로우의 일부로 PDF, 이미지 등 다운로드 가능한 파일을 생성할 수 있습니다.
음성 모드	음성 입력(음성→텍스트)과 음성 출력(텍스트→음성)을 통해 핸드프리 상호작용이 가능합니다.
세밀한 권한 관리	역할 기반 접근 제어, SSO(Google, OIDC, SAML), SCIM 프로비저닝, 감사 로그.

일반적인 사용 사례

내부 Q&A – 직원이 챗봇에 회사 정책, 제품 사양, 최근 프로젝트 업데이트에 대해 질문하고 최신 내부 문서를 기반으로 답변을 받습니다.
자동 워크플로우 – 에이전트가 지원 티켓을 읽고 관련 문제 해결 절차를 검색한 후 티켓 시스템에 해결 티켓을 생성합니다.
연구 보고서 생성 – 여러 출처에서 데이터를 수집하고 보고서를 통합하여 PDF 또는 슬라이드 쇼로 출력합니다.
개발자 지원 – 코드 스니펫, 설계 문서, 이슈 트래커를 커넥터로 가져와 LLM이 올바른 컨텍스트에서 기술적 질문에 답변할 수 있도록 합니다.

시작하기

# 프로젝트에서 제공하는 Docker 기반 원라인 설치
curl -fsSL https://onyx.app/install_onyx.sh | bash

설치 후 다음을 수행합니다:

Docker Compose 스택(또는 Kubernetes용 Helm 차트)을 실행합니다.
인덱싱할 앱에 커넥터를 구성합니다.
LLM 제공자(OpenAI, Anthropic, Ollama 등)와 임베딩 모델을 추가합니다.
웹 UI(기본값 http://localhost:3000)를 열고 대화를 시작합니다.

라이선스 및 에디션

커뮤니티 에디션 (CE) – MIT 라이선스 하에 완전히 오픈소스이며, 핵심 RAG, 채팅 UI, 에이전트, 대부분의 커넥터를 포함합니다.
엔터프라이즈 에디션 (EE) – 대규모 조직을 위한 프로프라이어터리 확장 기능(고급 분석, 화이트레이블링, 추가 보안 제어). 리포지토리에는 CE만 포함되며, EE 기능은 상용 사이트에 문서화되어 있습니다.

이 리포지토리를 확인해야 할 사람

사내 데이터 기반의 자체 호스팅 AI 지원이 필요하고, 공개 LLM 지식 기반에 의존할 수 없는 팀.
내부 도구에서 작동하는 사용자 정의 AI 에이전트를 구축하고 싶은 개발자.
데이터 주권, 에어갭 배포, 엄격한 RBAC를 요구하는 조직.

결론: Onyx는 업무 데이터, 벡터/키워드 인덱스, LLM을 통합하는 진정한 오픈소스 플랫폼입니다. 커넥터, UI, 배포 도구를 함께 제공하여, 내부 AI 코파일럿을 구축하는 실용적인 출발점이 됩니다.