nasiko: 一個用於容器化 AI agent 之集中式管理與智慧路由的開發者控制平面

nasiko: 一個用於容器化 AI agent 之集中式管理與智慧路由的開發者控制平面

它解決了什麼問題

Nasiko 是一個專為大規模管理 AI agent 而設計的開發者控制平面。它解決了在生產環境中部署、路由與監控多個專業化 AI agent 的複雜性,為 agent 的生命週期管理與智慧流量分配提供了一個集中式系統。

運作原理

Nasiko 使用以 Kong API Gateway 為核心的雲端原生微服務架構。它採用集中式註冊表,透過 "AgentCards"(能力定義)來儲存 agent 的元數據。一個由 LangChain 驅動的路由器會分析使用者查詢,並根據這些能力將其語義地匹配到最合適的 agent。Agents 會被部署為容器化服務(Docker/Kubernetes),並自動向 gateway 註冊以進行發現與負載平衡。

對象是誰

它是為 AI 開發者與企業團隊打造的,這些團隊需要編排一個專業化 AI agent 網絡,而不是依賴單一的單體式 LLM 應用程式。

重點功能

  • 智慧路由:使用 LangChain 分析意圖,並根據信心評分將查詢路由至最佳 agent。
  • Agent 生命週期管理:支援版本控制儲存、熱部署與自動化容器化。
  • 企業級基礎設施:整合 Kong API Gateway 進行路由、GitHub OAuth 進行身份驗證,以及 Arize Phoenix 進行 LLM 原生可觀測性。
  • 開發者工具:包含用於 agent 上傳的專用 CLI,以及用於平台管理的網頁版儀表板。

Sources