ztachip/ztachip

解決的問題

解決邊緣AI推論中的記憶體頻寬瓶頸。大多數邊緣裝置因處理器花費過多時間等待記憶體中的資料，而難以執行大型視覺與語言模型（LLMs/VLMs）。ztachip採用資料感知架構，旨在最大化記憶體效率。

工作原理

ztachip 是一個開源的 RISC-V AI 加速器，可部署於低成本 FPGA（如 Artix-7）或客製化 ASIC 上。它採用資料感知設計，比通用處理器更高效地移動模型權重與資料。系統包含其自身的 RTL、編譯器與軟體堆疊，可在同一硬體上執行傳統電腦視覺任務、神經網路推論與 Transformer 模型。

適用對象

專為希望在邊緣執行 AI 推論而無需依賴雲端伺服器的開發者與硬體工程師設計。透過 MicroPython 接口，即使無硬體知識的使用者也能輕鬆使用；同時，進階使用者也可將設計移植至其他 FPGA、ASIC 或 SoC 上。

主要亮點

• 高效率：相比 Raspberry Pi 5，記憶體頻寬使用效率高出 3.5 倍。
• 多功能負載：支援傳統電腦視覺（邊緣偵測、光流）、TensorFlow 模型以及 LLMs/VLMs。
• 易於程式設計：可透過 MicroPython 編程，無需深入硬體知識。
• 開源：整個堆疊（包含 RTL、編譯器與軟體）皆以 Apache 2.0 許可證公開。