Knowledgator/GLiClass

解決する課題

GLiClass は、ゼロショットシーケンス分類をより効率的にするために設計されました。従来のクロスエンコーダーモデルは、さまざまなラベルに対してテキストを分類するために複数回のパスを必要とすることが多く、計算コストが高くなります。GLiClass は単一のフォワードパスで分類を実行するため、同等のパフォーマンスを維持しながら約10倍高速化を実現します。

仕組み

GLiNER フレームワークに触発された GLiClass は、複数の分類タスクを処理できる汎用的なアーキテクチャを使用しています。ユニエンコーダー（最も効率的）、バイエンコーダー、エンコーダー・デコーダーモデルなど、さまざまなアーキテクチャタイプをサポートしています。柔軟なプーリング戦略（平均プーリングや最大プーリングなど）とスコアリングメカニズム（ドット積や MLP など）を採用し、テキストとラベルの一致を判定します。

対象ユーザー

感情分析、文書分類、ニュースのタグ付け、検索結果の再ランキングなどのタスクにおいて、高性能なゼロショットテキスト分類を必要とする開発者や研究者を対象としています。

特徴

• ゼロショット機能: モデルが明示的に学習していないラベルにテキストを分類します。
• 階層型ラベル: ドット表記（例: sentiment.positive）を使用して複雑なラベル構造をサポートします。
• フューショット & RAC: コンテキスト内の例や検索拡張分類 (RAC) を使用して精度を向上させます。
• 長文サポート: 非常に長い文書を自動的にチャンク化するパイプラインが含まれています。
• ストリーミング分類: セッションごとに永続的な KV キャッシュを持つデコーダー-KV モデル上での増分分類をサポートします。
• プロダクション対応: Ray Serve と統合されており、動的なバッチ処理とメモリを意識したサービングが可能です。
• ハードウェアアクセラレーション: Flash Attention バックエンド（FlashDeBERTa および TurboT5）のオプションサポートにより、推論を高速化します。