tensorflow/lingvo

何を解決するか

Lingvoは、TensorFlowでニューラルネットワークを構築するためのモジュール化・スケーラブルなフレームワークを提供し、特にシーケンスモデル（シーケンス対シーケンスモデリング）に特化しています。

動作方法

開発者は、さまざまなモダリティのモデルを構築およびトレーニングできます。このフレームワークは、大規模なトレーニングをサポートしており、巨大言語モデル（例：GShard）のモデル並列処理や、CloudTPUおよびGPUとの統合を可能にします。パラメータとタスクを通じたモデル定義の構造化されたアプローチを提供し、標準的な利用にはpipによるインストール、フレームワーク開発にはBazelによるビルドをサポートしています。

対象ユーザー

大規模なシーケンスモデル、機械翻訳、音声認識に取り組む研究者およびエンジニア。

主な特徴

• 多様なモデル対応: 機械翻訳、音声認識、言語モデル、3Dオブジェクト検出（StarNet、DeepFusion）、画像認識（LeNet5）の実装を含む。
• スケーラビリティ: GShardと512ウェイのモデル並列処理を用いて、最大1兆パラメータの巨大言語モデルをサポート。
• ハードウェア加速: GPUおよびCloudTPUでの使用に最適化。
• インストールの柔軟性: クイックスタートにはpip、フレームワークコアの貢献にはBazelを利用可能。