TianyuCodings/NanoJev
A nano replica of Jev: parallel decisions, dynamic candidates, and an end-to-end training pipeline.
解决的问题
NanoJev 解决了在交互式环境(如游戏)中进行实时、高性能决策的挑战,避免了传统 LLM 文本生成带来的延迟和计算开销。它不生成 Token,而是将决策视为分类或评分问题,直接输出概率分布。
工作原理
它使用了一个配备专用决策头的小型 0.6B 参数主干网络 (Qwen3)。当给定状态、问题和候选动作集时,模型通过单次前向传播为这些候选动作生成概率。这使其能够即时对动作进行排序、选择或采样。它在涵盖四种不同游戏环境的混合任务数据集上进行训练,使单个模型检查点能够处理导航和目标跟踪等多种任务。
适用人群
该项目面向对“系统 1”AI 模型感兴趣的研究人员和开发人员——即那些做出快速、直觉决策而非缓慢、深思熟虑推理的系统。它特别适用于构建游戏或实时模拟环境 AI 智能体的开发者,在这些场景中,低延迟的动作选择至关重要。
亮点
- 零 Token 解码:消除了对自回归文本生成的需求,从而实现近乎即时的决策。
- 统一架构:单个模型检查点可处理四种不同任务 (ViZDoom Basic, Predict Position, Maze, 和 Snake)。
- 高性能:在游戏基准测试中,相比 Jev 和未微调的 Qwen 等基准模型,展现出更高的成功率。
- 交互式评估:包含一个基于 Web 的界面,用于实时可视化模型之间的并排性能比较。
相关
- 项目
- 项目
- Dispatch
- Dispatch
- 项目