yomorun/yomo

🦖 Serverless AI Agent Framework with Geo-distributed Edge AI Infra.

解決的問題

YoMo 旨在透過提供 LLM 函式呼叫的框架,建構可擴展、超快速的 AI 代理。它特別解決與集中式資料中心相關的延遲問題,透過實現地理分散式架構,將 AI 推論與工具更靠近終端使用者。

運作方式

YoMo 作為 LLM 工具與技能的無伺服器框架運作。它允許開發者透過 CLI 無縫地初始化、部署與管理這些工具。該系統支援與 Ollama 等 LLM 提供商整合,並使用 TLS v1.3 加密來確保其分散式網路中的資料傳輸安全。

適用對象

適用於需要高回應性、全球可擴展性以及面向客戶 AI 互動的穩健安全性之 AI 代理開發者。

主要亮點

  • 地理分散式架構:透過在全球範圍內分散 AI 推論與工具,減少回應時間。
  • 無伺服器 LLM 工具:簡化代理技能的部署與管理。
  • 代理 DevOps:自動化從開發到部署的工具生命週期,降低營運負擔。
  • 增強的安全性:所有資料封包均預設採用 TLS v1.3 加密。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案