ucinlp/autoprompt

何を解決するか

AutoPrompt は、さまざまな自然言語処理（NLP）タスク用のプロンプト作成を自動化するためのツールです。手動でプロンプトを設計するのではなく、BERT や RoBERTa などのマスクされた言語モデル（MLM）から知識を引き出すことで、感情分析、自然言語推論（NLI）、事実検索、関係抽出などのタスクを実行できます。

動作方法

このシステムは、特定のタスクで言語モデルのパフォーマンスを最大化するための最適な「トリガートークン」を自動的に探索するために勾配ガイド付き探索を使用します。

ユーザーは、入力テキストのプレースホルダーと特別な [MASK] トークン（配置位置 [P]）を含むテンプレートを定義します。その後、ツールはすべてのプロンプトで共有されるトリガートークン [T] のセットを探索し、マスク位置でのモデル出力を最適化します。

対象ユーザー

マスクされた言語モデルを扱い、手動での試行錯誤なしにプロンプト工学を最適化したい研究者や開発者。

特徴

• 自動プロンプト生成: 手動のプロンプト工学を勾配ガイド付き探索で置き換えます。
• 多様なタスク対応: 感情分析、NLI、事実検索、関係検索に特化して設計されています。
• マルチモデル互換性: BERT と RoBERTa の両方のアーキテクチャをサポートします。
• 統合評価: 事実検索および関係抽出タスクにおけるプロンプト評価用スクリプトを含んでいます。