facebookresearch/vizseq
An Analysis Toolkit for Natural Language Generation (Translation, Captioning, Summarization, etc.)
VizSeq – テキスト生成のためのビジュアル分析ツールキット
概要 – VizSeqは、研究者やエンジニアがテキスト生成システム(機械翻訳、要約、画像キャプション、音声翻訳、ビデオ記述など)の出力を検査するためのPythonライブラリです。ソースデータ、参照テキスト、モデルの予測を受け取り、さまざまな自動メトリクスを計算し、Jupyterノートブックや軽量なWebアプリから探索できるインタラクティブなビジュアライゼーションで結果を表示します。
重要性 – 現代の生成モデルは大量の出力を生成し、生のメトリクススコア(BLEU、ROUGE、BERTScoreなど)はしばしば系統的なエラーを隠します。VizSeqを使用すると、例を閲覧し、複数のシステムを並べて比較し、文ごとのスコア、エラータイプ、埋め込みベースの類似度にドリルダウンできます。すべてマルチプロセスで高速化されています。これにより、デバッグ、モデル選択、論文執筆が高速化されます。
主な機能
- マルチモーダル対応 – プレーンテキスト、画像キャプション、音声/オーディオファイル、ビデオ記述データに対応。
- 豊富なメトリクススイート – 古典的なn-gramメトリクス(BLEU、METEOR、TER、ROUGE、CIDErなど)に加え、埋め込みベースのスコア(LASER、BERTScore)。すべてのメトリクスは並列化されています。
- インタラクティブなビジュアライゼーション – ノートブックではソート可能なテーブル、散布図、例ごとのビューを表示。同梱のWebサーバーはブラウザで同じUIを提供。
- Fairseq統合 – FacebookのFairseqトレーニングパイプラインに直接プラグインし、追加の変換コードなしで結果を可視化。
- 拡張可能 – オプションの追加機能により、オーディオ処理、Google翻訳ルックアップ、PyTorchを必要とする重い埋め込みスコアラーを追加できます。
典型的なワークフロー
- パッケージ(
pip install vizseq)と必要なオプションの追加機能をインストールします。 - 以下を含むフォルダを準備します:
- ソースファイル(テキスト、画像パス、オーディオファイルなど)
- 参照テキスト
- モデルの予測
- 提供されたスコアラー(例:
vizseq-score)を実行してJSON/TSVレポートを生成します。 - ビジュアライザーを起動します:
- ノートブック内:
import vizseq; vizseq.show(report_path) - またはWebサーバーを起動:
vizseq-server --port 9001 --data-root ./examples/dataを実行し、ブラウザでURLを開きます。
- ノートブック内:
- UIを使用してスコアでフィルタリング、長さでソート、複数のシステムを比較、論文用の図をエクスポートします。
インストール
# コアパッケージ(Python 3.11+)
pip install vizseq
# オプションの追加機能(必要に応じて選択)
pip install vizseq[embeddings] # LASER、BERTScore(torchを追加)
pip install vizseq[audio] # .wav/.flac/.sph対応
pip install vizseq[translate] # Google翻訳API
pip install vizseq[all] # すべて
リポジトリをクローンした後、pip install -e . でソースからインストールすることもできます。
ドキュメントと例 – プロジェクトは完全なドキュメントサイト(https://facebookresearch.github.io/vizseq)をホストしており、基本的な使用法、マルチモーダルMT、多言語MT、音声翻訳のステップバイステップのノートブックがあります。クイックスタートのWebアプリデモも提供されています。
ライセンス – MIT(寛容、商用利用可能)。
引用 – 出版物でVizSeqを使用する場合は、EMNLP-2019システムデモを引用してください:
@inproceedings{wang2019vizseq,
title = {VizSeq: A Visual Analysis Toolkit for Text Generation Tasks},
author = {Changhan Wang and Anirudh Jain and Danlu Chen and Jiatao Gu},
booktitle = {Proceedings of EMNLP 2019: System Demonstrations},
year = {2019}
}
連絡先 – Changhan Wang(changhan@fb.com)およびJiatao Gu(jgu@fb.com)。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト