Anil-matcha/awesome-jev-by-typesafe

解決する課題

Jev は、生成テキストではなく構造化された型付き決定を必要とするソフトウェア向けに設計されています。制約付きの回答と確率分布を提供することで、脆いルールベースのシステムと、高価で予測不可能な生成 LLM の間のギャップを埋め、分岐ロジック、ルーティング、ゲーティングに使用できます。

仕組み

Jev は「System One」モデルとして動作し、提供された状態（テキストまたは JSON）を一連の型付き質問に対して評価します。段落を返す代わりに、特定のプリミティブを返します：

• Choice：事前定義された順序なしの有限集合から 1 つの値を選択します（例：意図分類）。
• Score：順序付き評価基準上の位置を測定します（例：重大度やフラストレーションのレベル）。
• Noul：特定のステートメントが真である確率（0 から 1）を推定します（例：プロンプトインジェクションの検出）。

開発者は Python または JavaScript SDK を介して Jev を統合し、回答と関連する信頼レベルを使用して、決定論的なコードパス、人間によるレビュー、またはフォールバックメカニズムをトリガーします。

対象読者

本番グレードの自動化、RAG パイプライン、エージェントシステムを構築するソフトウェアエンジニアと AI アーキテクトで、制御フロー、安全ガードレール、高速分類のために信頼性の高い構造化出力を必要とする方。

ハイライト

• 型付きプリミティブ：決定論的なソフトウェア統合のための Choice、Score、Noul を提供。
• 信頼度ゲート付きルーティング：確率分布に基づいて、自動化と人間のフォールバックのしきい値を設定可能。
• 投機的ファンアウト：単一の API 呼び出しで複数の独立した判断を要求し、レイテンシを削減。
• 幅広い応用：サポートトリアージ、RAG パッセージフィルタリング、セマンティック再ランキング、LLM ガードレールに有用。
• 高効率：報告された応答時間は 70〜500 ミリ秒で、汎用生成モデルよりも大幅に高速。