normal-computing/posteriors

解決する課題

機械学習モデルの不確実性定量化 (UQ) のための汎用 Python ライブラリを提供し、開発者が単一の点推定を提供するだけでなく、モデルが予測に対してどの程度確信しているかを理解できるようにします。

仕組み

このライブラリは PyTorch と torch.func に基づく関数型アプローチを使用しており、コンポーザブルでスケーラブルになっています。ユーザーは log_posterior 関数と温度設定を定義し、モデルパラメータに変換を適用します。モデル重みの事後分布を推定するためのいくつかのベイジアン学習メソッドをサポートしています：

• 変分推論 (VI)
• ラプラス近似
• 確率的勾配 MCMC (SGMCMC)
• 拡張カルマンフィルタ (EKF)

対象者

PyTorch モデルを扱い、ベイジアン学習と不確実性定量化を実装する必要がある研究者や開発者、特に Hugging Face transformers ライブラリや PyTorch Lightning を使用する人向けに設計されています。

ハイライト

• コンポーザブル：transformers、lightning、torchopt、pyro とシームレスに連携します。
• 関数型デザイン：数学的定義に近く、テストが容易です。
• スケーラブル：大規模なモデルや大規模なデータセットを処理するために設計されています。
• 切り替え可能なアルゴリズム：最小限のコード変更で異なる UQ メソッドを切り替えることができます。