diudiu-tech/delivery-harness

해결하는 문제

이 프로젝트는 즉시 배달 서비스에 특화된 AI 기반 운영 플랫폼의 참조 구현체를 제공합니다. 비정상 주문을 자동으로 분석하고 고객에게 보상 제안하는 동시에, 중요한 비즈니스 로직(예: 실제 지급 금액)이 AI 모델이 아닌 규칙 엔진에 의해 결정적이고 통제되도록 보장합니다.

작동 방식

시스템은 고정된 동기식 워크플로우를 사용하여 여러 구성 요소를 통합합니다:

• AI 통합: OpenAI 호환 클라이언트를 사용해 모델(예: Ollama를 통해)에 연결하여 조언적 분석을 생성합니다.
• 결정론적 도구: 주문 데이터, 예상 도착 시간(ETA), 스테이션 용량 등의 합성 비즈니스 도구를 사용해 모델에 근거 있는 사실을 제공합니다.
• 지식 검색: 쿼리어의 겹침 기반으로 관련 규칙과 사례를 검색하는 가벼운 메모리 내 어휘 검색 시스템을 구현합니다.
• 가드레일 및 평가: 평가 케이스 실행, 추적 기록, 인간 검토 가드레일 적용을 위한 기반을 제공하여 AI 출력이 조언적이고 검증된 상태를 유지합니다.
• 규칙 엔진: 최종 보상 금액 계산을 담당하는 전용 엔진으로 AI가 금전적 지급을 잘못 생성하는 것을 방지합니다.

대상 사용자

주로 신뢰성, 추적 가능성, 인간의 개입 감시가 자율적 에이전트 행동보다 더 중요한 운영 워크플로우에 AI 하네스를 구축하고자 하는 엔지니어와 아키텍트를 위한 교육용 MVP입니다.

주요 특징

• 결정론적 기준선: 주문을 특정 단계(디스패치, 매장 도착 등)로 분할하여 모델이 이기 위한 기준선을 만듭니다.
• 규칙 기반 보상: 모델이 보상을 제안하지만 실제 금액은 규칙 엔진이 결정합니다.
• 관찰 가능성: 내장된 요청 추적, 단계별 실행 시간, 피드백 저장 기능을 통해 AI 성능을 모니터링할 수 있습니다.
• 평가 프레임워크: 메모리 내 평가 실행과 스코어러를 사용해 모델 출력의 회귀를 탐지합니다.
• 저하 모드: 선택적 종속성에 실패해도 워크플로우는 DEGRADED 상태로 완료되어 결정론적 결과를 유지할 수 있습니다.