TianyuCodings/NanoJev

해결하는 문제

NanoJev는 기존 LLM의 텍스트 생성으로 인한 지연 시간과 계산 오버헤드 없이 게임과 같은 대화형 환경에서 실시간으로 고성능 의사결정을 내리는 문제를 해결합니다. 토큰을 생성하는 대신 의사결정을 분류 또는 점수 매기기 문제로 처리하여 확률 분포를 직접 출력합니다.

작동 방식

이 모델은 특수 의사결정 헤드가 장착된 0.6B 파라미터의 소형 백본 (Qwen3)을 사용합니다. 상태, 질문, 후보 동작 세트가 주어지면 모델은 단일 순방향 패스를 수행하여 해당 후보에 대한 확률을 생성합니다. 이를 통해 즉시 동작의 순위를 매기거나 선택 또는 샘플링할 수 있습니다. 4가지 다른 게임 환경을 다루는 혼합 작업 데이터셋으로 학습되어, 단일 모델 체크포인트로 내비게이션 및 타겟 추적과 같은 다양한 작업을 처리할 수 있습니다.

대상 사용자

이 프로젝트는 느리고 신중한 추론이 아닌 빠르고 직관적인 결정을 내리는 '시스템 1' AI 모델에 관심이 있는 연구자와 개발자를 위한 것입니다. 특히 낮은 지연 시간의 동작 선택이 중요한 게임이나 실시간 시뮬레이션 환경을 위한 AI 에이전트를 구축하는 분들에게 유용합니다.

주요 특징

• 제로 토큰 디코딩: 자기회귀적 텍스트 생성의 필요성을 제거하여 거의 즉각적인 의사결정을 가능하게 합니다.
• 통합 아키텍처: 단일 모델 체크포인트로 4가지 서로 다른 작업 (ViZDoom Basic, Predict Position, Maze, 및 Snake)을 처리합니다.
• 고성능: Jev 및 튜닝되지 않은 Qwen과 같은 베이스라인 모델 대비 게임 벤치마크에서 우수한 성공률을 보여줍니다.
• 대화형 평가: 모델 간의 성능 비교를 실시간으로 나란히 시각화할 수 있는 웹 기반 인터페이스를 포함합니다.