amd/gaia

What it solves

GAIA 提供了一个框架，用于在 AMD Ryzen AI 硬件上本地运行智能 AI agent。这消除了对云端推理的依赖，降低了成本，并为敏感工作负载（如医疗或金融）提升了数据隐私，并实现了隔绝式（air-gapped）部署。

How it works

GAIA 提供了一个基础 agent 类，用于处理工具编排、状态管理和错误恢复。开发者可以通过定义系统提示词（system prompts）和注册自定义工具来创建 agent。该框架针对 AMD Ryzen AI 处理器进行了优化，optimized for AMD Ryzen AI processors, utilizing the NPU and iGPU for hardware-accelerated inference. 该框架针对 AMD Ryzen AI 处理器进行了优化，利用 NPU 和 iGPU 进行硬件加速推理。

Highlights

• Local-First Inference: 使用 AMD Ryzen AI 处理器上的 NPU 和 iGPU 进行硬件加速性能。
• RAG System: Built-in document indexing and semantic search supporting over 50 file formats.
• Multimodal Capabilities: 整合了语音交谈（Whisper ASR 和 Kokoro TTS） and vision models (Qwen3-VL-4B) 用于图像文字提取。
• Extensibility: 支持 MCP (Model Context Protocol) 整合以使用外部工具，并通过 PyPI 分发 agent。
• N/A: 可用作 Python 和 C++17 版本。