IBM/aihwkit

What it solves

이 툴킷은 메모리와 연산의 분리로 인해 성능 한계가 발생하는 "von Neumann bottleneck" 문제를 해결합니다. 이는 AI 워크로드를 메모리 장치(PCM, RRAM 또는 Flash와 같은) 내에서 직접 처리하여 속도와 에너지 효율성을 높이는 인메모리 컴퓨팅(in-memory computing)의 탐색 및 시뮬레이션을 가능하게 합니다.

How it works

이 키트는 표준 신경망 레이어를 아날로그 버전(fully connected, convolution, LSTM)으로 교체하고 아날로그 인식 최적화 도구(analog-aware optimizers)를 도입하는 PyTorch 통합 기능을 제공합니다. 또한 노이즈, 장치 간 편차, ADC/DAC 이산화(discretization)를 포함한 아날로그 장치의 물리적 특성을 모델링하는 고성능 C++ 시뮬레이터(CUDA 지원)를 포함합니다.

Who it’s for

하드웨어 인식 AI, 뉴로모픽 컴퓨팅, 그리고 아날로그 크로스바 어레이(analog crossbar arrays)를 사용한 에너지 효율적인 AI 가속기 설계 분야에서 활동하는 연구자 및 개발자들을 위한 것입니다.

Highlights

• PyTorch Integration: PyTorch에 아날로그 신경망 모듈과 학습 워크플로우를 원활하게 통합합니다.
• Hardware-Aware Training: 하드웨어의 비이상적 특성(non-idealities)과 노이즈를 순전파(forward pass)에 포함하여 아날로그 하드웨어에 더 견고한 모델을 생성합니다.
• Device Simulation: 조정 가능한 파라미터를 통해 재료 특성 및 크로스바 구성을 고성능으로 시뮬레이션합니다.
• Model Conversion: 사전 학습된 디지털 모델을 아날로그 모델로 자동 변환하는 유틸리티를 제공합니다.