astroautomata/SymTorch

Deep Learning Interpretability with Symbolic Regression

何を解決するか

SymTorchは、ユーザーが記号方程式を使用して特定のモデルコンポーネントの挙動を近似できるようにすることで、ディープラーニングモデルの「ブラックボックス」的な性質に対処します。記号蒸留(symbolic distillation)として知られるこのプロセスは、ニューラルネットワークの複雑な内部動作をより解釈可能にすることを助けます。

仕組み

このフレームワークは、PySR (Symbolic Regression) を活用して、ディープラーニングモデル内のコンポーネントの挙動を模倣する数学的表現を見つけ出します。

対象者

ディープラーニングモデルのコンポーネントの背後にある数学的論理を理解する必要がある研究者や開発者、またはニューラルネットワークの記号蒸留を行いたいと考えている人々です。

ハイライト

  • 記号近似 (Symbolic Approximation): PySRを使用して、ディープラーニングのコンポーネントを読み取り可能な記号方程式に変換します。
  • 記号蒸留 (Symbolic Distillation): ディープニューラルネットワークを記号形式に蒸留するために特別に設計されたフレームワークを提供します。
  • PyTorch Integration: PyTorchエコシステム内で使用できるPythonパッケージ (torch-symbolic) として利用可能です。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト