jkudish/jev-mcp

Fast, cheap, typed judgments from TypeSafe's Jev model, as MCP tools.

解決する課題

最先端モデルはすべての小さなタスクを実行するには速度が遅くコストが高すぎるため、エージェントは事実確認、コンテンツのスクリーニング、リストの並べ替えといった「機械的な」チェックを省略しがちです。このプロジェクトは、エージェントがこれらの判断を信頼性の高い方法で大規模に実行できるようにする、専門的で高速かつ低コストなツールセットを提供します。

仕組み

これは、エージェントを TypeSafe の Jev モデルに接続する MCP (Model Context Protocol) サーバーとして機能します。これらのツールをエージェントに登録すると、エージェントは事実確認、コンテンツスクリーニング、データ抽出などの特定のタスクを実行するためにそれらを呼び出すことができます。各ツールは、信頼度スコアや確率を含む構造化された型付きデータを返すため、エージェントは結果を信頼するか、人間によるレビューのためにフラグを立てるかを判断できます。

対象読者

すべての小さなステップでフルスケールの最先端モデルを使用する際のレイテンシやコストをかけずに、堅牢で検証可能な意思決定機能をワークフローに追加する必要がある AI エージェント開発者向けです。

ハイライト

  • 12 種類の専門ツール: 声明の検証 (jev_verify)、プロンプトインジェクションのスクリーニング (jev_screen)、埋め込みなしでの候補のランキング (jev_find)、アイテムのバッチ分類 (jev_classify) などの機能が含まれています。
  • 高速かつ安価: 判断結果は 150 ~ 500 ミリ秒で返され、コストはわずか数セントの数分の一です。
  • 型付き出力: 明確な信頼度スコアと確率分布を提供し、エージェントが不確実性を適切に処理できるようにします。
  • 柔軟なデプロイメント: stdio を介したローカル実行、チーム向けのリモート HTTP サーバーとしての実行、または独自のアプリケーションコードへの直接組み込みが可能です。
  • エージェント対応: コーディングアシスタントが自身の内部知識に頼るのではなく、いつこれらのツールを使用すべきかを教える事前構築済みのエージェントスキルが含まれています。

関連

  • Dispatch
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト