robertcprice/nCPU

nCPU: model-native and tensor-optimized CPU research runtimes with organized workloads, tools, and docs

解決的問題

將電腦重新構想為一個可微分的實體,以訓練好的神經網路或GPU加速內核取代傳統的硬體邏輯與作業系統元件。這使得程式能透過梯度下降而非手動撰寫來發現,並能建立對時序側信道攻擊免疫的電腦基礎架構。

工作原理

本專案在三種模式下實現完整的執行堆疊:

  • 神經模式:從ALU運算(加法、乘法)到作業系統(記憶體管理、排程)以及顯示,所有層級皆為訓練好的神經網路。這使得從原始碼到像素的整個流程皆具可微分性。
  • 計算模式:使用Rust與Metal著色器實現的高效能版本,在GPU上執行ARM64指令,可啟動UNIX作業系統、執行自宿主C編譯器,並載入真實的Linux二進位檔,如BusyBox與Alpine Linux。
  • 快速模式:使用原生張量運算,在維持可微分性的同時提升速度。

此外,還包含 nSynth(從輸入/輸出範例中進行程式合成)、可微分協處理器(可注入LLM以提升算術準確度),以及 JEPA風格的世界模型(在潛在空間中預測機器狀態轉移)。

適用對象

  • 探索可微分計算與程式合成的AI研究人員。
  • 關注定時執行與側信道免疫的安全研究人員。
  • 對神經網路與底層系統架構交集感興趣的開發者。

主要亮點

  • 神經ALU:在32位整數運算中達成100%準確率。
  • GPU原生作業系統:在GPU上完全執行多行程UNIX作業系統與自宿主C編譯器。
  • 可微分合成:透過梯度下降從範例中發現可執行程式。
  • LLM增強:透過神經ALU協處理器提升Qwen模型的算術準確度(例如,Qwen3.5-2B提升+56.5個百分點)。
  • 時序免疫:零週期計數變異(σ = 0.0),對加密中的快取時序攻擊具備抗性。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案