IBM/aihwkit

What it solves

このツールキットは、メモリと計算の分離がパフォーマンスの限界を生み出す「フォン・ノイマン・ボトルネック」に対処します。これにより、AIワークロードをメモリデバイス（PCM、RRAM、またはFlashなど）内で直接処理し、速度とエネルギー効率を高めるインメモリ・コンピューティングの探索とシミュレーションが可能になります。

How it works

このキットは、標準的なニューラルネットワーク層をアナログ版（fully connected、convolution、LSTM）に置き換えるPyTorch統合機能を提供し、アナログを考慮したオプティマイザを導入します。また、ノイズ、デバイス間のばらつき、ADC/DACの離散化を含む、アナログデバイスの物理的特性をモデル化する高性能なC++シミュレータ（CUDA対応）も含まれています。

Who it’s for

ハードウェアを意識したAI、ニューロモーフィック・コンピューティング、およびアナログ・クロスバー・アレイを使用したエネルギー効率の高いAIアクセラレータの設計に取り組む研究者や開発者向けです。

Highlights

• PyTorch Integration: PyTorchにアナログ・ニューラルネットワーク・モジュールとトレーニング・ワークフローをシームレスに統合できます。
• Hardware-Aware Training: ハードウェアの非理想的な特性やノイズをフォワード・パスに含めることで、アナログ・ハードウェア向けにより堅牢なモデルを作成できます。
• Device Simulation: 材料特性やクロスバー構成の高性能なシミュレーションを、調整可能なパラメータで行えます。
• Model Conversion: 学習済みデジタル・モデルを、それに対応するアナログ版へ自動的に変換するユーティリティ。