Paillier 및 BFV 방식을 구현하여 암호화된 최근접 이웃 검색과 같은 프라이버시 보호 계산을 가능하게 하는 Python용 GPU 가속 동형 암호 라이브러리입니다.

AI 및 시맨틱 검색을 위한 모듈형 멀티모달 트랜잭션 데이터베이스로, 문서, 그래프, 벡터 스토리지를 단일 ACID 준수 시스템으로 통합합니다.

마르코프 체인 몬테카를로를 통해 베이지안 추론을 위한 고성능 Scala API로, 사용자가 생성 모델을 구축하고 관측 데이터로부터 사후 분포를 추론할 수 있게 합니다.

tidy data 원칙을 기반으로 한 모델 성능 추정을 위한 R 패키지로, 분류 및 회귀 메트릭 계산에 일관된 인터페이스를 제공합니다.

NVIDIA GPU의 열 제한 및 성능 저하를 탐지하여 ML 워크로드에 최적의 성능을 보장하는 GPU 스트레스 테스트 도구입니다.

1개 또는 다수의 변수에서 테일러 다항식 전개를 계산하는 Julia 패키지로, 자동 미분 및 적분 계산을 지원합니다.

LLM을 사용해 풀 리퀘스트 차이점을 리뷰하는 GitHub Action으로, 가장 중요한 발견만 강조해 리뷰어의 피로를 줄입니다.

Model Context Protocol (MCP) 서버를 탐색, 리뷰, 설치할 수 있는 커뮤니티 주도의 웹 디렉터리 및 레지스트리입니다.

Together AI에서 오픈 소스 모델을 구축하기 위한 코드 및 가이드 모음으로, 에이전트, 파인튜닝, RAG, 멀티모달 비전을 다룹니다.

브라우저 및 네이티브 앱에서 Whisper나 Phi와 같은 모델에 대해 빠른 GPU 가속 추론을 가능하게 하는 크로스 플랫폼 ML 개발자 툴킷입니다.

인증, 결제, 워크스페이스, 사용량 측정과 같은 운영 인프라를 제공하는 수직 AI SaaS용 애플리케이션 프레임워크로, 개발자가 자체 AI 에이전트를 통합할 수 있습니다.

Cloudflare 터널을 통해 공개 엔드포인트를 제공하여 Cursor 편집기가 로컬 Ollama 서버에 연결할 수 있도록 하는 프록시 워커입니다.

학습된 전통적인 머신러닝 모델을 텐서 연산으로 컴파일하여 PyTorch와 같은 신경망 프레임워크를 통해 추론을 가속화하는 라이브러리.

Voyager는 벡터/임베딩 데이터를 위한 빠른 인메모리 근사 최근접 이웃 검색 라이브러리로, Python, Java, Scala 바인딩을 제공하며 HNSW 기반의 공유 인덱스 형식을 사용합니다. Spotify의 프로덕션 환경에서 검증되었으며, macOS/Linux/Windows(Apple Silicon 포함)를 지원하고 Apache 2.0 라이선스로 제공됩니다.

Search and Learn은 추론 시 계산 리소스를 더 많이 할당하여 오픈 소스 LLM의 성능을 향상시킬 수 있는 Hugging Face 툴킷입니다. 3가지 검색 기반 추론 방식(Best-of-N, beam search, Diverse Verifier Tree Search)을 위한 즉시 실행 가능한 스크립트와 YAML '레시피'를 제공하며, 저자의 계산 스케일링 실험을 재현하기 위한 소규모 Python 라이브러리, 테스트 및 문서를 포함하고 있습니다.

EEG 신호 분석을 위한 PyTorch 기반 라이브러리로, 통합된 데이터 IO, 전처리 변환, 딥러닝 모델을 제공하여 뇌 신호 연구를 가속화합니다.

NanoGPT Slowrun은 데이터가 고정(100 M 토큰)되어 있지만 컴퓨팅 자원이 사실상 무제한인 상황에서 언어 모델 학습을 평가하는 벤치마크입니다. 4개의 트랙(15분, 1시간, 2시간, 무제한)을 통해 참가자들은 강력한 정규화, 대규모 모델, 독특한 최적화 기법을 실험할 수 있습니다. 저장소에는 데이터 준비 스크립트, 각 트랙의 학습 코드, 그리고 모든 개선 사항(swiglu, U-Net, meta-gradients, 앙상블 등)을 기록하는 세계 기록 테이블이 제공됩니다. 참여하려면 저장소를 복제하고 Python 요구 사항을 설치한 후 prepare_data.py를 실행하고, 8-GPU H100 노드에서 torchrun을 사용하여 학습을 시작하세요. 검증 손실을 낮춘 PR을 제출하여 리더보드에 이름을 올리세요.

Model Context Protocol (MCP)를 위한 개발 플랫폼 및 제어 평면으로, Kubernetes에서 MCP 서버의 빌드, 배포, 관리를 간소화합니다.

AI 에이전트와 전용 데이터 플레인을 사용하여 시스템 모니터링의 근본 원인 분석 및 진단 워크플로우를 자동화하는 지능형 관찰성 플랫폼입니다.

다수의 AI 모델 공급업체에 접근할 수 있는 통일된 OpenAI 호환 인터페이스를 제공하는 기업용 LLM API 통합 시스템.

원자적 메모와 자동 생성된 지식 그래프를 사용하여 AI 에이전트를 위한 공유되고 지속 가능한 지식 기반을 제공하는 MCP 서버입니다.

다중 역할 협업과 내장된 서비스 디스커버리를 통해 분산형 상태 유지 AI 추론 워크로드를 오케스트레이션하는 Kubernetes API입니다.

컨테이너를 사용하여 로컬에서 LLM 및 AI 애플리케이션을 다운로드, 실행, 실험할 수 있는 Podman Desktop용 확장 기능입니다.

Optimum‑Benchmark 는 Transformers, Diffusers, PEFT 등 다양한 백엔드(PyTorch, ONNX Runtime, OpenVINO, vLLM, TensorRT‑LLM, IPEX, Llama‑Cpp, Py‑TXI)와 장치(CPU, CUDA, ROCm, XPU, HPU)에서 추론 및 학습 성능(지연 시간, 메모리, 에너지, 처리량)을 측정하는 Hugging Face 라이브러리입니다. Python API와 Hydra 기반 CLI를 제공하며, 분산 실행을 지원하고 재현 가능한 보고서를 생성하여 Hugging  Face Hub에 푸시할 수 있습니다.

머신러닝 파이프라인에서 수동 라벨링을 대체하기 위해 약지도 학습(weak supervision)을 사용하여 학습 데이터를 프로그래밍 방식으로 구축하고 관리하는 프레임워크입니다.

머신러닝 모델의 표준화된 평가 및 비교를 위한 라이브러리로, NLP와 컴퓨터 비전 전반에 걸쳐 광범위한 지표를 제공합니다.

ONNX Runtime을 활용하여 텍스트, 이미지, 희소 벡터 임베딩 생성 및 리랭킹을 로컬에서 수행하는 고성능 Rust 라이브러리.

llama.cpp를 asm.js로 컴파일하고 base64를 통해 모델을 임베딩하여 대규모 언어 모델을 PDF 파일 내에서 완전히 실행할 수 있게 하는 개념 증명 프로젝트입니다.

정확한 코사인 유사도 벡터 검색 및 인덱싱을 위한 Go 라이브러리로, 로컬 GGUF 임베딩과 OpenAI 호환 클라우드 API를 통합 지원합니다.

PyTorch, JAX, NumPy와 같은 프레임워크 전반에서 수동 리셰이핑 없이 복잡한 텐서 연산을 공식화하기 위한 범용 표기법 및 Python 라이브러리.

scikit-learn과 호환되는 텍스트 및 비전 임베딩 라이브러리로, 사전 학습된 인코더를 머신러닝 파이프라인에 쉽게 통합할 수 있습니다.

의미적 실패와 행동의 변동을 전용 SRE 메트릭(SLIs)으로 모니터링하여 생산 환경 장애를 예방하는 아젠트 AI용 신뢰성 인스트루멘테이션 라이브러리입니다.

Python용 고성능 Windows 화면 캡처 라이브러리로, AI 에이전트 및 컴퓨터 비전 워크로드를 위한 저지연, 고FPS 프레임을 제공합니다.

수정 없이 여러 시뮬레이터 및 뉴로모픽 하드웨어에서 실행할 수 있는 뉴런 네트워크 모델을 구축하기 위한 시뮬레이터 비종속 Python 언어.

CPU, GPU 및 기타 하드웨어 가속기에서 병렬 계산을 위한 고수준 추상화를 제공하는 일반 목적의 텐서 라이브러리입니다.

Fidelius는 Intel SGX 기반의 프라이버시 컴퓨팅 미들웨어로, 원본 데이터가 계산에는 사용 가능하지만 참여자들에게는 보이지 않도록 보장하여 안전한 데이터 협업을 가능하게 합니다.

밀리초 단위의 승리 패 조합(winning-hand) winning-hand detection과 AI 기반의 버림패 결정 기능을 위해 사전 계산된 룩업 테이블을 사용하는 고성능 마작 알고리즘 라이库입니다.

KD-트리, 볼-트리를 사용하여 효율적인 최근접 이웃 검색을 수행하고 주기적 경계 조건을 지원하는 Julia 패키지.

OpenCL 및 CUDA용 C++ 벡터 표현식 템플릿 라이브러리로, GPGPU 개발의 반복 코드를 줄입니다.

Gymnasium 및 PettingZoo용 강화학습 환경의 전처리를 쉽게 할 수 있도록 도와주는 미크로랩퍼 모음입니다.

광범위한 코딩 없이 LLM과 Hugging Face 모델을 사용하여 워크플로를 시각적으로 구축하고 예약할 수 있는 로우코드 데이터 플로우 도구.

Cloudflare Workers AI와 AI Gateway를 사용하여 다중 모델 채팅 UI를 빠르게 배포할 수 있는 웹 기반 AI 플랫폼 인터페이스입니다.

combo는 기계학습 모델과 점수를 통합하기 위한 파이썬 도구 상자입니다. 스태킹, 동적 분류기/앙상블 선택, 이상 탐지기 융합과 같은 앙상블 기법을 통일된 API로 지원하며, scikit-learn, XGBoost, LightGBM, pyod의 모델을 활용해 분류, 클러스터링, 이상 탐지 작업을 수행할 수 있습니다.

모델 역할을 단계별로 스케줄링하여 단일 NVIDIA GPU에서 verl RLHF 실험(PPO 및 GRPO 등)을 실행할 수 있게 하는 도구.

Apple의 Neural Engine(ANE)을 최적화한 Transformer 모델의 참조 및 Hugging Face 호환 구현을 제공하는 PyTorch 기반 라이브러리로, A14/M1급 장치에서 추론 속도가 최대 10배 빨라지고 메모리 사용량이 최대 14배 감소합니다.

NLP 데이터셋을 위한 토큰화, 디토큰화, 정규화 및 트루케이싱 도구를 제공하는 텍스트 전처리 라이브러리입니다.

4개의 독립적인 클리핑 경계를 사용하는 비대칭적이고 적응적인 GRPO 강화학습 알고리즘의 개선 버전으로, LLM 추론 작업에서 엔트로피 붕괴를 방지하고 일반화 성능을 향상시킵니다.

이질적 모델 앙상블의 학습 및 예측을 최적화하는 대규모 비지도 이상 탐지용 가속 프레임워크입니다.