JuliaDiff/ForwardDiff.jl

Forward Mode Automatic Differentiation for Julia

何を解決するか

ForwardDiff.jl は、ネイティブ Julia 関数の導関数、勾配、ヤコビアン、ヘッセ行列を計算する方法を提供します。手動での微分や精度の低い差分法の必要性を排除し、関数の出力が入力に対してどのように変化するかを、より高い精度と速度で計算できます。

動作方法

このライブラリは、前向きモードの自動微分（AD）を実装しています。この技術により、関数の演算を「双数（Dual numbers）」を使って伝播することで、正確な導関数を計算できます。

対象ユーザー

Julia を使用して数学的関数の導関数を計算する必要がある開発者や研究者向けに設計されています。特に、スカラーからベクトルへの関数マッピングに特化しています。

特徴

  • 包括的な導関数スイート：導関数、勾配、ヤコビアン、ヘッセ行列を含む高階導関数もサポート。
  • パフォーマンス：差分法などの非 AD アルゴリズムと比較して、速度と精度の両面で優れています。
  • ネイティブ統合：ネイティブ Julia 関数や任意の呼び出し可能なオブジェクトと連携可能。
  • 依存関係：sin などの簡単な関数の導関数には、DiffRules.jl を活用しています。

関連

  • プロジェクト
    chalk-lab/Mooncake.jl

    ミューテーションをサポートし、高速で繰り返し可能な勾配とヘッセ行列評価に適した、Julia用の高性能自動微分ライブラリ。キャッシュシステムを活用している。

  • プロジェクト
    JuliaDiff/DifferentiationInterface.jl

    Juliaにおけるさまざまな自動微分バックエンドのための統一インターフェースで、勾配、ヤコビアン、ヘッセ行列の計算に一貫した構文を提供します。

  • プロジェクト
    FluxML/Zygote.jl

    Julia 用のソースツーソース自動微分システムで、複雑な関数や機械学習モデルの勾配計算を可能にします。

  • プロジェクト
    TuringLang/AdvancedHMC.jl

    高度なハミルトニアン・モンテカルロ（HMC）アルゴリズム（NUTS を含む）を実装する堅牢でモジュール式の Julia ライブラリで、効率的な MCMC サンプリングを実現します。

  • プロジェクト
    vgvassilev/clad

    Clad is a C++ Clang plugin that performs source‑code transformation to generate native derivative functions. It supports forward‑mode, reverse‑mode, Hessians, Jacobians and floating‑point error estimation, and can be installed via conda or built from source. By compiling with the `-fplugin=libclad.so` flag, developers obtain high‑performance, compile‑time automatic differentiation without leaving the C++ ecosystem.