firelex/jeff
Millisecond decisions, any domain: a 0.8B open "System 1" model that picks between your options with calibrated probabilities. One base, swappable LoRA adapters, on your own hardware.
解决的问题
Jeff 简化了基于非结构化数据进行自动化决策的过程。无需编写复杂的逻辑来解释文本或输入,您可以将特定的决策任务视为简单的、类型化的函数调用,从而获得清晰的结果。
工作原理
Jeff 使用一个专门的“决策函数”库——即回答特定问题的预训练适配器。您将非结构化数据传入这些函数,它们会返回一个带有“校准置信度”分数的结果。如果系统对评估结果不够自信,它可以选择不做出决定。您可以在自己的硬件上(使用 Python, Node, Rust, C#, 或 Java)本地运行这些函数,也可以通过托管 API 运行。
适用人群
需要将可靠的自动化决策集成到应用程序中的开发人员,例如安全检查、内容审核或输入验证,而无需从头开始构建和维护自定义机器学习模型。
亮点
- 类型化结果: 返回结构化、可预测的输出,而不是原始文本。
- 校准置信度: 为每个决策提供置信度分数,允许系统在不确定时放弃决策。
- 灵活部署: 支持本地执行(在 Apple silicon 或 NVIDIA GPU 上)以及托管 API。
- 多语言支持: 提供适用于 Python, Node, Rust, C#, 和 Java 的 SDK。
- 专注特定任务: 每个函数旨在回答一个具体问题,易于集成到现有工作流中。
相关
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch