firelex/jeff

Millisecond decisions, any domain: a 0.8B open "System 1" model that picks between your options with calibrated probabilities. One base, swappable LoRA adapters, on your own hardware.

解決する課題

Jeffは、非構造化データに基づく自動意思決定プロセスを簡素化します。テキストや入力を解釈するための複雑なロジックを記述する代わりに、特定の意思決定タスクを明確な結果を返す単純な型付き関数呼び出しとして扱うことができます。

仕組み

Jeffは、特定の質問に答えるための事前学習済みアダプターである「意思決定関数」のライブラリを使用します。非構造化データをこれらの関数に渡すと、「校正された信頼度」スコアを含む結果が返されます。システムが評価に十分な自信を持っていない場合、決定を下さないように設定できます。これらの関数は、独自のハードウェア上でローカルに実行(Python, Node, Rust, C#, Javaを使用)するか、ホストされたAPI経由で実行できます。

対象ユーザー

カスタム機械学習モデルをゼロから構築・保守することなく、安全チェック、コンテンツモデレーション、入力検証などの信頼性の高い自動意思決定をアプリケーションに統合する必要がある開発者。

ハイライト

  • 型付き結果: 生のテキストではなく、構造化された予測可能な出力を返します。
  • 校正された信頼度: すべての決定に対して信頼度スコアを提供し、不確実な場合にはシステムが決定を保留できるようにします。
  • 柔軟なデプロイ: ローカル実行(Apple silicon または NVIDIA GPU)とマネージドAPIの両方をサポートします。
  • 多言語サポート: Python, Node, Rust, C#, Java用のSDKが含まれています。
  • 限定的なフォーカス: 各関数は特定の質問に答えるように設計されており、既存のワークフローへの統合が容易です。

関連