amd/gaia

Build AI agents for your PC

What it solves

GAIA 提供了一種構建和部署完全在本地硬體上運行的智能 AI Agent 的方法,消除了對雲端 API 的需求。這確保了數據隱私、消除了訂閱成本,並允許 AI 在隔離環境中運行,同時利用 AMD Ryzen AI 處理器上的硬體加速。

How it works

GAIA 是一個框架,為工具編排、狀態管理和錯誤恢復提供了一個基礎 Agent 類別。它包含一個用於快速開發的 Python SDK 和一個用於嵌入原生應用程序的 C++17 port。該系統利用 AMD Ryzen AI 硬體的 NPU 和 iGPU 進行加速推理。它還集成了 Model Context Protocol (MCP) 以進行外部工具訪問,並支持通過 PyPI 分發 Agent。

Who it's for

開發人員正在構建以隱私為中心的 AI 應用程序,受監管行業(如醫療保健或金融)中的企業用戶,以及針對 AMD Ryzen AI 硬體的開發人員。

Highlights

  • 100% Local Execution: All processing happens on-device, ensuring privacy and zero cloud costs.
  • RAG System: Built-in document indexing and semantic search supporting over 50 file formats.
  • Multimodal Capabilities: Includes voice integration (Whisper ASR and Kokoro TTS) and vision models (Qwen3-VL-4B) for image text extraction.
  • Cross-Language Support: Available in both Python and C++ for flexibility in deployment.
  • MCP Integration: Ability to connect to any MCP server for expanded tool capabilities.