ztachip/ztachip

解决的问题

解决边缘AI推理中的内存带宽瓶颈。大多数边缘设备由于处理器花费过多时间等待内存中的数据，难以运行大型视觉和语言模型（LLMs/VLMs）。ztachip采用数据感知架构，旨在最大化内存效率。

工作原理

ztachip 是一个开源的 RISC-V AI 加速器，可部署在低成本 FPGA（如 Artix-7）或定制 ASIC 上。它采用数据感知设计，比通用处理器更高效地移动模型权重和数据。该系统包含其自身的 RTL、编译器和软件栈，可在同一硬件上运行传统计算机视觉任务、神经网络推理和 Transformer 模型。

适用人群

专为希望在边缘运行 AI 推理而无需依赖云服务器的开发者和硬件工程师设计。通过 MicroPython 接口，即使没有硬件知识的用户也能轻松使用；同时，高级用户也可将设计移植到其他 FPGA、ASIC 或 SoC 上。

主要亮点

• 高效率：相比 Raspberry Pi 5，内存带宽使用效率高出 3.5 倍。
• 多功能负载：支持传统计算机视觉（边缘检测、光流）、TensorFlow 模型以及 LLMs/VLMs。
• 易于编程：可通过 MicroPython 编程，无需深入硬件知识。
• 开源：整个栈（包括 RTL、编译器和软件）均以 Apache 2.0 许可证开源。