ztachip/ztachip

何を解決するか

エッジAI推論におけるメモリ帯域幅のボトルネックに対処します。多くのエッジデバイスは、プロセッサがメモリからのデータを待つ時間が長すぎることで、大規模なビジョンモデルや言語モデル（LLMs/VLMs）を実行できず困っています。ztachipは、メモリ効率を最大化するデータに配慮したアーキテクチャを採用しています。

動作方法

ztachipは、低コストのFPGA（例：Artix-7）やカスタムASICに展開可能な、オープンソースのRISC-V向けAIアクセラレータです。一般のプロセッサよりもモデルの重みやデータをより効率的に移動するデータに配慮した設計を採用しています。システムには独自のRTL、コンパイラ、ソフトウェアスタックが含まれており、同じハードウェア上で古典的なコンピュータビジョンタスク、ニューラルネットワーク推論、トランスフォーマーモデルを実行できます。

対象ユーザー

クラウドサーバーに頼らずエッジでAI推論を実行したい開発者やハードウェアエンジニア向けです。MicroPythonインターフェースにより、ハードウェア知識がなくても利用可能であり、FPGA、ASIC、SoCに設計を移植したい上級ユーザーにも対応しています。

特徴

• 高い効率性: Raspberry Pi 5と比較してメモリ帯域幅の使用効率が3.5倍高い。
• 多様なワークロード: 古典的なコンピュータビジョン（エッジ検出、オプティカルフロー）、TensorFlowモデル、LLMs/VLMsをサポート。
• 簡単なプログラミング: MicroPythonでプログラミング可能。ハードウェアの深い知識が不要。
• オープンソース: RTL、コンパイラ、ソフトウェアのすべてのスタックがApache 2.0ライセンスで公開されています。