rwth-i6/returnn

何を解決するか

RETURNNは、現代の再帰型ニューラルネットワーク（RNN）アーキテクチャの学習に柔軟かつ効率的なフレームワークを提供し、研究および生産環境における高速な学習とデコード速度のニーズに応えます。

動作方法

PyTorchおよびTensorFlowに基づいて構築されており、マルチGPU環境でのRNNの学習を最適化しています。バッチ学習にはシーケンスチャンク化を活用し、長短期記憶（LSTM）ネットワーク用のカスタム高速CUDAカーネルを含んでおり、多次元LSTMのサポートも提供しています。

対象ユーザー

再帰型ニューラルネットワークを扱う研究者や開発者、特に音声認識（ASR）や機械翻訳（MT）などのタスクにエンコーダー-アテンション-デコーダーモデルを実装している人向けです。

特徴

• マルチGPU最適化: 複数デバイスにわたる信頼性と高速な学習を最適化しています。
• カスタムCUDAカーネル: LSTM用の専用高速CUDAカーネルを含み、パフォーマンスを向上させます。
• 柔軟なアーキテクチャ: エンコーダー-アテンション-デコーダーモデルの多様な種類をサポートしています。
• メモリ管理: 大規模データセットの処理に適した組み込みメモリ管理機能を備えています。