ztachip/ztachip

해결하는 문제

에지 AI 추론에서 메모리 대역폭의 병목 문제를 해결합니다. 대부분의 에지 장치는 프로세서가 메모리에서 데이터를 기다리는 시간이 너무 길어 대규모 비전 및 언어 모델(LMMs/VLMs)을 실행하기 어려운 상황입니다. ztachip은 메모리 효율을 극대화하기 위해 데이터 인식 설계를 채택한 아키텍처를 제공합니다.

작동 방식

ztachip은 저비용 FPGA(예: Artix-7) 또는 맞춤형 ASIC에 배포할 수 있는 오픈소스 RISC-V AI 가속기입니다. 일반 프로세서보다 모델 가중치와 데이터를 더 효율적으로 이동하는 데이터 인식 설계를 사용합니다. 시스템은 자체 RTL, 컴파일러, 소프트웨어 스택을 포함하며, 동일한 하드웨어에서 전통적인 컴퓨터 비전 작업, 신경망 추론, 트랜스포머 모델을 모두 실행할 수 있습니다.

대상 사용자

클라우드 서버에 의존하지 않고 에지에서 AI 추론을 수행하고자 하는 개발자 및 하드웨어 엔지니어를 위한 것입니다. MicroPython 인터페이스를 통해 하드웨어 지식이 없어도 접근 가능하며, 다른 FPGA, ASIC, SoC로 설계를 포팅하고자 하는 고급 사용자도 지원합니다.

주요 특징

• 고효율성: Raspberry Pi 5보다 메모리 대역폭 사용 효율이 3.5배 뛰어납니다.
• 다양한 워크로드: 전통적인 컴퓨터 비전(엣지 탐지, 광학 흐름), TensorFlow 모델, LLMs/VLMs를 지원합니다.
• 간편한 프로그래밍: MicroPython으로 프로그래밍 가능하여 깊은 하드웨어 전문 지식이 필요 없습니다.
• 오픈소스: RTL, 컴파일러, 소프트웨어 전체 스택이 Apache 2.0 라이선스 하에 공개되어 있습니다.