Qwenputer：嵌入在 Qwen 3.5 权重中的确定性 RISC-V CPU

核心架构：将计算嵌入权重

Qwenputer 将一个 32 位 RISC-V 核心 (RV32IM) 直接集成到 Qwen 3.5 4B 模型的权重中。与依赖外部 Python 沙箱或 API 调用的传统工具使用范式不同，Qwenputer 完全在模型的前向传播过程中执行算术和逻辑运算。该系统利用 Gated DeltaNet (GDN) 层（一种线性 RNN）作为确定性的、可寻址的 RAM。通过将门控和写入强度配置为 1.0 并使用独热码 (one-hot) 键编码，模型实现了可靠的内存读写操作，这些操作在 token 之间保持持久，且没有与标准注意力 KV 缓存相关的内存扩展问题。

实现：从电路到 Token

该 CPU 是通过将电路描述直接编译到模型权重中来实现的，无需传统的训练过程。每条指令都作为一系列代表内存地址和值的 token 执行，模型将其生成为执行轨迹。

• RAM 机制： GDN 状态充当内存库，其中独热码键指向特定的行以进行覆盖或检索。
• 文件系统： 一项实验性扩展允许模型将文件名哈希到 GDN 状态内的 1,024 个槽位中，从而实现最多 512 个文件（约 53,000 个 token）的持久存储。此状态可以在不同的聊天会话中保存和重新加载。
• 执行： 模型使用驱动程序 (RvChat) 来加载固件并管理执行轨迹，确保 CPU 指令在没有外部运行时干预的情况下进行处理。

性能与准确性

与基础的 Qwen 3.5 模型相比，Qwenputer 在算术任务中表现出显著的改进。在使用 DeepMind 算术集和 NUPA 长整数算术的基准测试中，Qwenputer 达到了 97.5% 到 100% 的准确率，匹配或超过了配备外部 Python 工具的基础模型性能。该 CPU 已成功通过官方 RISC-V 测试，在自由运行状态下无错误地执行了超过 1800 万条指令。

社区讨论与技术评论

该项目引发了关于在神经网络中嵌入确定性计算的意义的广泛讨论：

• 透明度与工具： 一些观察者对“内部”执行与所需的推理驱动程序之间的区别提出了担忧。正如一位评论者所指出的：> "自定义主机运行时仍然负责加载固件、引导 CPU……我希望作者能更坦诚地说明这些限制。" — @handle
• AI 安全与监督： 研究人员强调，这种架构可能被用于创建“隐藏”的推理路径。通过将计算存储在 RNN 状态中，模型可能会绕过思维链 (CoT) 监控工具。
• 未来研究： 社区表示有兴趣了解这种方法是否可以应用于从零开始训练的模型，或者它是否可以作为自验证、经过身份验证的 AI 代理的基础，使其能够签署自己的输出。

局限性

Qwenputer 目前是一个实验性的概念验证，存在显著的权衡：

• 资源开销： 由于增加了层和零填充，模型检查点大小约为 18.8 GB，大约是基础 Qwen 3.5 4B 的两倍。
• 速度： CPU 执行速度明显慢于原生 Transformer 推理，因为每条指令都需要多个解码后的 token。
• 推理要求： 该系统需要专门的驱动程序来管理 CPU 引导过程，并防止轨迹 token 泄漏到模型的主要输出层中。