ruvnet/ruv-FANN

해결하는 문제

ruv-FANN은 고가의 GPU 하드웨어 없이도 배포할 수 있는 가벼운 CPU 네이티브 인공지능의 필요성을 해결합니다. 리소스 집약적인 AI 문제를 해결하기 위해 '일시적 지능(ephemeral intelligence)'을 제공합니다. 특정 작업에 특화된 작은 신경망을 인스턴스화하고 작업이 완료되면 즉시 해체함으로써 메모리와 컴퓨팅 자원을 절약합니다.

작동 방식

이 프레임워크는 세 가지 통합된 레이어로 구성됩니다:

1. ruv-FANN Core: 고성능 Rust 재구현된 Fast Artificial Neural Network (FANN) 라이브러리로, 기반 신경망 엔진을 제공합니다.
2. Neuro-Divergent: LSTM 및 Transformer를 포함한 27개 이상의 최신 모델을 갖춘 예측 레이어로, 속도와 메모리 효율성에 최적화되어 있습니다.
3. ruv-swarm: 이러한 가벼운 네트워크의 '스웜'을 관리하는 오케스트레이션 레이어로, WebAssembly (WASM)를 사용해 브라우저, 서버, 또는 임베디드 장치에서 지능을 실행합니다. Claude Code와 같은 도구와 함께 사용할 수 있도록 Model Context Protocol (MCP)에 통합되어 있습니다.

대상 사용자

• CUDA나 GPU 인프라 없이도 애플리케이션에 신경망을 통합하고 싶은 개발자.
• Python 기반 대안보다 낮은 메모리 오버헤드로 고성능 신경망 예측을 원하는 데이터 과학자.
• WASM 환경이나 RISC-V 하드웨어에서 AI 모델을 실행하고 싶은 에지 컴퓨팅 엔지니어.

주요 특징

• 고성능: SWE-Bench에서 84.8%의 해결률을 기록하며, 결정 속도는 100ms 미만입니다.
• 자원 효율성: CPU 네이티브 설계로 기준 대비 메모리 사용량 29% 감소, 토큰 수 32.3% 감소.
• 광범위한 호환성: 27개 이상의 신경망 아키텍처와 5가지 스웜 토폴로지(메시, 링, 계층형, 스타, 사용자 정의)를 지원합니다.
• 메모리 안전성: Rust로 완전히 구현되었으며, unsafe 코드는 전혀 사용하지 않습니다.