Nasiko-Labs/nasiko

Developer Control Plane for your AI Agents

解決的問題

Nasiko 提供了一個用於管理 AI 代理叢集的集中式控制平面。它解決了代理間(A2A)通訊的營運複雜性,例如路由流量、管理 API 金鑰、保護代理存取以及監控成本和效能,而無需公開暴露代理。

運作方式

Nasiko 作為一個位於所有代理之前的單一進程運行。它終止 TLS 並代理所有代理間流量,確保代理永遠不會被公開存取。它使用三階段路由引擎(嵌入相似度、重新排序和 LLM 選擇)將請求導向正確的代理。為了增強安全性,它提供了一個 LLM 路由器,為代理提供短期身份令牌而不是真實的 API 金鑰,以及一個 MCP 閘道,集中管理工具憑證。

適用對象

建置多代理系統的開發者和營運人員,他們需要一種安全、可觀測且可擴展的方式來部署和路由遵循 A2A 協議的不同語言(Python、Rust、Go、TypeScript)編寫的代理之間的流量。

亮點

  • A2A 協議支援:部署任何遵循 A2A v1.0 規範的代理,無論使用何種語言。
  • 智慧路由:基於上下文和嵌入的代理選擇三階段管線。
  • 安全優先架構:代理透過代理存取,永不公開;密鑰使用 AES-256-GCM 靜態加密。
  • 內建可觀測性:完整的 OTel 整合,用於端對端追蹤、令牌使用和成本追蹤。
  • 嵌入式 OCI 註冊表:自託管、S3 支援的註冊表,用於建置和部署代理映像,無需外部依賴。
  • 流程防護:基於 Redis 的深度、扇出和令牌預算限制,防止代理失控迴圈。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案