firelex/jeff

Millisecond decisions, any domain: a 0.8B open "System 1" model that picks between your options with calibrated probabilities. One base, swappable LoRA adapters, on your own hardware.

해결하는 문제

Jeff는 비정형 데이터를 기반으로 자동화된 의사 결정을 내리는 과정을 단순화합니다. 텍스트나 입력을 해석하기 위해 복잡한 로직을 작성하는 대신, 특정 의사 결정 작업을 명확한 결과를 반환하는 간단한 유형화된 함수 호출로 처리할 수 있습니다.

작동 방식

Jeff는 특정 질문에 답하는 사전 학습된 어댑터인 '의사 결정 함수' 라이브러리를 사용합니다. 비정형 데이터를 이 함수들에 전달하면 '보정된 신뢰도' 점수가 포함된 결과가 반환됩니다. 시스템이 평가에 대해 충분한 확신이 없는 경우 결정을 내리지 않도록 설정할 수 있습니다. 이러한 함수는 자체 하드웨어에서 로컬로 실행(Python, Node, Rust, C#, Java 사용)하거나 호스팅된 API를 통해 실행할 수 있습니다.

대상 사용자

안전 검사, 콘텐츠 조정, 입력 유효성 검사와 같이 신뢰할 수 있는 자동화된 의사 결정을 애플리케이션에 통합해야 하지만, 맞춤형 머신 러닝 모델을 처음부터 구축하고 유지 관리할 필요가 없는 개발자.

주요 특징

  • 유형화된 결과: 원시 텍스트가 아닌 구조화되고 예측 가능한 출력을 반환합니다.
  • 보정된 신뢰도: 모든 결정에 대해 신뢰도 점수를 제공하여 불확실할 때 시스템이 결정을 보류할 수 있도록 합니다.
  • 유연한 배포: 로컬 실행(Apple silicon 또는 NVIDIA GPU)과 관리형 API를 모두 지원합니다.
  • 다중 언어 지원: Python, Node, Rust, C#, Java용 SDK를 포함합니다.
  • 좁은 범위의 집중: 각 함수는 특정 질문에 답하도록 설계되어 기존 워크플로우에 쉽게 통합할 수 있습니다.

관련