amd/gaia

What it solves

GAIA 提供了一個框架，用於在 AMD Ryzen AI 硬體上本地運行智能 AI agent。這消除了對雲端推理的依賴，降低了成本，並為敏感工作負載（例如醫療或金融）提升了數據隱私，並實現了實體隔絕（air-gapped）部署。

How it works

GAIA 提供了一個基礎 agent 類別，用於處理工具編排、狀態管理與錯誤恢復。開發者可以透過定義系統提示詞（system prompts）與註冊自定義工具來建立 agent。該框架針對 AMD Ryzen AI 處理器進行了優化，利用 NPU 與 iGPU 進行硬體加速推理。它還包含了一個 C++17 版本，用於原生應用程式嵌入，以及一個用於聊天、文件索引與工具執行的桌面 UI。

Highlights

• Local-First Inference: 使用 AMD Ryzen AI 處理器上的 NPU 與 iGPU 進行硬體加速效能。
• RAG System: 內建文件索引與語義搜索，支援超過 50 種文件格式。
• Multimodal Capabilities: 整合了語音互動（Whisper ASR 與 Kokoro TTS）與視覺模型（Qwen3-VL-4B）以進行圖像文字提取。
• Extensibility: 支援 MCP (Model Context Protocol) 整合以使用外部工具，並透過 PyPI 分發 agent。
• Cross-Language Support: 提供 Python 與 C++17 版本。