Nasiko-Labs/nasiko
The Open Runtime for AI Agents
해결하는 문제
Nasiko는 여러 코딩 에이전트(예: Claude Code, Codex, Cursor)를 사용할 때 발생하는 분산화와 가시성 부족 문제를 해결합니다. 서로 다른 에이전트가 서로 다른 과금 단위와 대시보드를 사용하여 총 비용 추적, 특정 사용자 또는 모델에 대한 비용 귀속, 모델 라우팅 및 도구 권한의 중앙 관리가 불가능한 "보이지 않는 지출" 문제를 해결합니다.
작동 방식
Nasiko는 AI 에이전트의 호출 경로에 위치하는 "OpenRuntime" 역할을 합니다. 비침습적 탐색을 사용하여 머신에서 기존 에이전트 하네스를 감지하고 선택적 라우팅 계층을 제공합니다. 에이전트를 벤더의 API 대신 Nasiko LLM 라우터로 지정하면 Nasiko는 에이전트를 모델 제공자로부터 분리할 수 있으며, 사용자는 서버 측에서 관리되는 단일 자격 증명 세트를 사용하여 지원되는 모든 LLM으로 트래픽을 라우팅할 수 있습니다. 또한 MCP 게이트웨이를 구현하여 통합되고 권한이 필터링된 도구 보기를 제공하고, A2A(에이전트 간) 프록시를 구현하여 흐름 제한 및 보안 정책을 적용합니다.
대상 사용자
코딩 에이전트 플릿을 운영하는 개발자와 조직을 위해 설계되었으며, 에이전트가 액세스할 수 있는 모델과 도구에 대한 중앙 집중식 관찰 가능성, 비용 귀속, 거버넌스가 필요한 경우에 적합합니다.
주요 기능
- LLM 라우팅: 에이전트를 제공자로부터 분리하여 애플리케이션 코드를 변경하지 않고도 Claude Code와 같은 하네스를 OpenAI 모델로 구동할 수 있습니다.
- TokenOps: OTel 스팬을 사용하여 에이전트 및 모델별로 상세한 비용과 토큰 귀속을 제공합니다.
- 거버넌스: 에이전트 간 무한 루프를 방지하는 흐름 가드와 안전한 중앙 집중식 도구 액세스를 위한 MCP 게이트웨이를 포함합니다.
- 비침습적 통합: SDK나 래퍼 없이 일반적인 코딩 에이전트(Claude Code, Codex, OpenCode, Cursor)를 감지하고 통합합니다.
- 임베디드 OCI 레지스트리: 외부 종속성 없이 에이전트를 배포하기 위한 자체 호스팅 S3 기반 레지스트리를 포함합니다.
요약
코딩 에이전트 하네스를 위한 중앙 집중식 LLM 라우팅, 비용 귀속, 거버넌스를 제공하는 AI 에이전트용 OpenRuntime입니다.
제목
여러 코딩 에이전트 하네스에서 비용을 관리, 라우팅, 모니터링하기 위한 OpenRuntime
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트