HIPS/autograd

Efficiently computes derivatives of NumPy code.

What it solves

Autograd は、数学関数の勾配計算プロセスを簡素化し、関数の導関数を手動で導出・コーディングする必要をなくします。これは主に機械学習や科学計算における勾配ベースの最適化に使用されます。

How it works

NumPy の薄いラッパーを提供し、ネイティブな Python と NumPy のコードを自動的に微分します。スカラー値関数に対して効率的な逆モード微分（バックプロパゲーション）と、任意に組み合わせて高次導関数（導関数の導関数）を計算できる前方モード微分の両方をサポートします。

Who it’s for

勾配ベースの最適化、ニューラルネットワーク、科学シミュレーションに取り組む研究者や開発者で、Python/NumPy コードの導関数を手動で導出せずに計算したい方。

Highlights

  • Native Python Support: Handles loops, if-statements, recursion, and closures.
  • Higher-Order Derivatives: Ability to calculate derivatives of any order.
  • Flexible Modes: Supports both forward and reverse-mode differentiation.
  • Broad Application: Used for building neural networks (CNNs, RNNs, LSTMs) and backpropagating through fluid simulations.