octos-org/octos

Octos – 자신이 운영하는 오픈소스 '에이전트 OS'

무엇인가 – Octos는 Rust로 작성된 백엔드로, 자신의 컴퓨터(또는 자체 호스팅 서버)에서 완전한 기능의 AI 어시스턴트를 실행할 수 있게 해줍니다. OpenAI, Anthropic, Gemini, DeepSeek 등 주요 LLM 제공업체와 연결되며, 풍부한 REST 엔드포인트와 JSON-RPC "UI 프로토콜"을 제공하여 클라이언트 앱이 사용할 수 있도록 합니다.

왜 중요한가 – 대부분의 챗봇 프로젝트는 단일 사용자, 단일 모델 서비스에 머무릅니다. Octos는 다중 테넌트를 위한 설계로, 단일 31MB 바이너리로 수백 개의 격리된 "프로필"을 호스팅할 수 있습니다. 각 프로필은 고유한 프롬프트, 모델, 도구, 메모리를 가질 수 있으며, 다중 LLM 파이프라인 (다른 단계에 다른 모델 사용)과 스웜 디스패처도 지원하여 작업을 여러 워커로 분산하고 결과를 통합할 수 있습니다.

주요 구성 요소

Kernel (이 리포지토리) – 핵심 런타임: 제공업체 어댑터, 도구 사전, 메모리 레이어, 세션 처리, HTTP/WebSocket API.
octos-web – 브라우저 기반 UI (채팅, 음성, 문서 생성, 관리 대시보드)로 바이너리에 포함되어 /app/에서 제공됩니다.
octoscode – Claude Code와 유사한 터미널 스타일 클라이언트입니다.

실행 방법

Homebrew, npm, 또는 제공된 install.sh 스크립트로 바이너리 설치.
octos init을 실행하여 제공업체와 모델을 선택하고, octos auth login으로 로그인.
octos serve --solo로 서버 시작 (로컬 개발용) 또는 백그라운드 서비스로 설치 (포트 8080).
http://localhost:50080/app/ (또는 서비스 포트)를 열고 대화를 시작하세요.

실제로 사용 가능한 기능

80개 이상의 REST 엔드포인트 – 채팅, 세션, 프로필, 기술, 스케줄링, 메트릭, 웹훅 등.
14개의 메시징 채널 (Telegram, Discord, WhatsApp, Slack 유사 서비스, Matrix 등) – 동일한 백엔드가 여러 채팅 앱에서 접근 가능.
도구 사전 – bwrap, Landlock, Docker, Windows AppContainer를 사용해 코드 실행, 웹 검색, 파일 조작, 사무용 소프트웨어 생성 (DOCX/PPTX/XLSX)을 안전하게 수행.
3층 메모리 – 장기 엔티티 저장소, 에피소딕 Redb 저장소, LLM 기반 압축이 적용된 세션별 JSONL.
자율성 프리미티브 – /goal <목표>로 여러 턴에 걸쳐 작업 지속, /loop로 주기적 작업 실행, 이전 턴으로 세션 롤백 가능.
스웜 디스패처 – 여러 워커(외부 MCP 도구 포함)로 요청을 분산하고 결과를 통합하며, 내장된 비용 추적 및 장애 대체 기능 제공.
제공업체 장애 대체 – 3단계 라우터 (재시도 → 체인 → 적응형)로 모델 간 헤지 및 오류 발생 시 회로 차단.
다른 언어용 바인딩 – C/Go (octos-ffi), Python (octos-pyo3), Swift/Kotlin (octos-uniffi), WebAssembly (octos-wasm).
UI 프로토콜 v1 – WebSocket 또는 stdio 기반의 JSON-RPC으로, 웹, 터미널, 에디터 등 어떤 프론트엔드도 동일한 백엔드와 통신 가능.

일반적인 사용 사례

데이터를 로컬에 보관하면서 코드 실행, 웹 탐색, 메모 작성이 가능한 개인용 AI 어시스턴트.
각 사용자가 고유 프로필을 가지되, 동일한 서버를 공유하는 팀 전체용 "에이전트 OS".
Rust 크레이트 또는 언어 바인딩을 통해 다른 소프트웨어에 에이전트 루프를 내장.
MCP (Model Client Protocol) 시스템을 통해 외부 도구를 호출하는 사용자 정의 에이전트 구축.

더 알아보기

전체 문서 사이트: https://octos-org.github.io/octos/
자체 호스팅 가이드 (클라우드 + 테넌트 배포 포함): https://github.com/octos-org/octos-web#self-hosting--deployment
도움 요청용 이슈 트래커: https://github.com/octos-org/octos/issues

결론 – Octos는 다중 테넌트 격리, 확장 가능한 도구, 다양한 LLM 제공업체와의 깊은 통합을 중시하는 실제 생산 환경용 오픈소스 플랫폼입니다. 문서화가 잘 되어 있으며, 지속적으로 유지보수되고 있으며, AI 기반 애플리케이션의 "운영체제"로 설계되었습니다.

octos-org/octos

Octos – 자신이 운영하는 오픈소스 '에이전트 OS'

관련