robertcprice/nCPU
nCPU: model-native and tensor-optimized CPU research runtimes with organized workloads, tools, and docs
解决的问题
将计算机重新构想为一个可微分的实体,用训练好的神经网络或GPU加速内核替代传统的硬件逻辑和操作系统组件。这使得程序可以通过梯度下降而非手动编写来发现,并能够创建对时序侧信道攻击免疫的计算机基础架构。
工作原理
该项目在三种模式下实现了完整的执行栈:
- 神经模式:从ALU操作(加法、乘法)到操作系统(内存管理、调度)以及显示,所有层级均为训练好的神经网络。这使得从源代码到像素的整个流水线都具备可微分性。
- 计算模式:使用Rust和Metal着色器实现的高性能版本,在GPU上执行ARM64指令,能够启动UNIX操作系统,运行自托管C编译器,并加载真实的Linux二进制文件,如BusyBox和Alpine Linux。
- 快速模式:使用原生张量操作,在保持可微分性的同时提升速度。
此外,还包含 nSynth(从输入/输出示例中进行程序合成)、可微分协处理器(可注入LLM以提升算术精度),以及 JEPA风格的世界模型(在潜在空间中预测机器状态转移)。
适用人群
- 探索可微分计算和程序合成的AI研究人员。
- 关注恒定时间执行和侧信道免疫的安全研究人员。
- 对神经网络与底层系统架构交集感兴趣的开发者。
主要亮点
- 神经ALU:在32位整数运算中实现100%准确率。
- GPU原生OS:在GPU上完全运行多进程UNIX操作系统和自托管C编译器。
- 可微分合成:通过梯度下降从示例中发现可执行程序。
- LLM增强:通过神经ALU协处理器提升Qwen模型的算术精度(例如,Qwen3.5-2B提升+56.5个百分点)。
- 时序免疫:零周期计数方差(σ = 0.0),对加密中的缓存时序攻击具有抗性。
相关
- 项目
- 项目
- 项目
- 项目
- 项目