robertcprice/nCPU
nCPU: model-native and tensor-optimized CPU research runtimes with organized workloads, tools, and docs
해결하는 문제
컴퓨터를 전통적인 하드웨어 논리 회로와 운영체제 구성 요소를 학습된 신경망 또는 GPU 가속 커널로 대체하는 미분 가능한 실체로 재정의합니다. 이는 프로그램을 수작업으로 작성하는 대신 경사 하강법을 통해 탐색할 수 있게 하며, 타이밍 측면 채널 공격에 저항하는 컴퓨터 기반 구조를 구축할 수 있게 합니다.
작동 방식
이 프로젝트는 세 가지 모드에서 완전한 실행 스택을 구현합니다:
- 신경망 모드: ALU 연산(덧셈, 곱셈)부터 OS(메모리 관리, 스케줄링), 디스플레이에 이르기까지 모든 계층이 학습된 신경망입니다. 이로 인해 소스 코드에서 픽셀에 이르는 전체 파이프라인은 미분 가능해집니다.
- 계산 모드: Rust와 Metal 쉐이더를 사용한 고성능 구현으로 GPU에서 ARM64 명령어를 실행하여 UNIX OS를 부팅하고, 자체 호스팅 C 컴파일러를 실행하며, BusyBox 및 Alpine Linux와 같은 실제 Linux 바이너리를 로드할 수 있습니다.
- 빠른 모드: 네이티브 텐서 연산을 사용하여 미분 가능성을 유지하면서도 속도를 향상시킵니다.
또한 nSynth(입출력 예시로부터 프로그램 합성을 수행), 미분 가능한 코프로세서(LLM에 삽입되어 산술 정확도를 향상시키는), JEPA 스타일의 월드 모델(잠재 공간에서 머신 상태 전이를 예측하는)도 포함되어 있습니다.
대상 사용자
- 미분 가능한 컴퓨팅과 프로그램 합성에 관심 있는 AI 연구자.
- 일정 시간 실행과 측면 채널 공격에 대한 저항성에 관심 있는 보안 연구자.
- 신경망과 저수준 시스템 아키텍처의 교차점에 관심 있는 개발자.
주요 특징
- 신경망 ALU: 32비트 정수 산술에서 100% 정확도 달성.
- GPU 네이티브 OS: GPU에서 다중 프로세스 UNIX OS와 자체 호스팅 C 컴파일러를 완전히 실행.
- 미분 가능한 합성: 예시를 기반으로 경사 하강법을 사용해 실행 가능한 프로그램을 탐색.
- LLM 강화: 신경망 ALU 코프로세서를 통해 Qwen 모델의 산술 정확도 향상 (예: Qwen3.5-2B에서 +56.5pp).
- 타이밍 면역성: 사이클 카운트 변동 없음 (σ = 0.0), 암호화에서 캐시 타이밍 공격에 저항 가능.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트