robertcprice/nCPU
nCPU: model-native and tensor-optimized CPU research runtimes with organized workloads, tools, and docs
解決的問題
將電腦重新構想為一個可微分的實體,以訓練好的神經網路或GPU加速內核取代傳統的硬體邏輯與作業系統元件。這使得程式能透過梯度下降而非手動撰寫來發現,並能建立對時序側信道攻擊免疫的電腦基礎架構。
工作原理
本專案在三種模式下實現完整的執行堆疊:
- 神經模式:從ALU運算(加法、乘法)到作業系統(記憶體管理、排程)以及顯示,所有層級皆為訓練好的神經網路。這使得從原始碼到像素的整個流程皆具可微分性。
- 計算模式:使用Rust與Metal著色器實現的高效能版本,在GPU上執行ARM64指令,可啟動UNIX作業系統、執行自宿主C編譯器,並載入真實的Linux二進位檔,如BusyBox與Alpine Linux。
- 快速模式:使用原生張量運算,在維持可微分性的同時提升速度。
此外,還包含 nSynth(從輸入/輸出範例中進行程式合成)、可微分協處理器(可注入LLM以提升算術準確度),以及 JEPA風格的世界模型(在潛在空間中預測機器狀態轉移)。
適用對象
- 探索可微分計算與程式合成的AI研究人員。
- 關注定時執行與側信道免疫的安全研究人員。
- 對神經網路與底層系統架構交集感興趣的開發者。
主要亮點
- 神經ALU:在32位整數運算中達成100%準確率。
- GPU原生作業系統:在GPU上完全執行多行程UNIX作業系統與自宿主C編譯器。
- 可微分合成:透過梯度下降從範例中發現可執行程式。
- LLM增強:透過神經ALU協處理器提升Qwen模型的算術準確度(例如,Qwen3.5-2B提升+56.5個百分點)。
- 時序免疫:零週期計數變異(σ = 0.0),對加密中的快取時序攻擊具備抗性。
相關
- 專案
- 專案
- 專案
- 專案
- 專案