Ollama를 사용하여 로컬 및 클라우드 기반 LLM을 관리하고 실행할 수 있도록 하는 Python 라이브러리입니다.

선형 어텐션, 상태 공간 모델, 하이브리드 LLM 아키텍처를 위한 하드웨어 효율적인 빌딩 블록과 최적화된 커널 라이브러리.

JavaScript 및 Python SDK를 통해 안전하고 격리된 클라우드 사전 환경에서 AI 생성 코드를 실행할 수 있는 오픈소스 인프라스트럭처입니다.

AI 에이전트를 위한 경량 VM 라이브러리로, 안전한 코드 실행과 POSIX 유틸리티를 제공하며, 전통적인 샌드박스보다 훨씬 빠른 콜드 스타트와 낮은 메모리 오버헤드를 자랑합니다.

다양한 하드웨어 벤더의 슈퍼리졸루션 기술과 그래픽 효과를 게임 및 애플리케이션에 간편하게 통합할 수 있도록 도와주는 오픈소스 프레임워크입니다.

BOQ, BIM/CAD 테이크오프, 4D 스케줄링, 5D 비용 모델링 도구를 제공하는 건설 프로젝트 관리를 위한 오픈소스 셀프호스팅 ERP.

JADX 디컴파일러를 LLM과 통합하여 Android APK에 대한 실시간 컨텍스트 인식 리버스 엔지니어링 및 취약점 분석을 제공하는 플러그인 및 MCP 서버입니다.

코드베이스 지도 위에서 코딩 에이전트 세션을 재생하는 3D 시각화 도구로, 에이전트가 파일을 어떻게 탐색하고 수정하는지 파악할 수 있습니다.

Vespa는 대규모 검색 및 AI 서빙을 위한 오픈 소스 플랫폼으로, 벡터/텐서 인덱싱, 실시간 모델 추론, 저지연 쿼리 처리를 제공합니다. Vespa Cloud에서 실행하거나 자체 호스팅할 수 있으며, 광범위한 문서, 샘플 앱, 그리고 허용적인 Apache 2.0 라이선스를 제공합니다.

Stockfish에서 파생된 오픈소스 UCI 상기기 엔진으로, NNUE 신경망을 사용하여 위치를 분석하고 최적의 수를 계산합니다.

CORAL은 자율 AI 에이전트 조직이 실험을 실행하고 지식을 공유하여 솔루션을 발전시킴으로써 자동 연구를 수행하기 위한 오픈 소스 인프라입니다.

Agent Relay는 소프트웨어 팀이 기존 도구(GitHub, Slack, Notion 등)와 함께 LLM 기반의 코드 에이전트를 실행할 수 있는 오픈소스 툴킷입니다. 메시징, 가상 파일시스템 통합, 검색 가능한 세션 로그, TypeScript로 정의된 결정론적 플로우를 제공하여 코드 생성 및 검토 작업의 감사 가능하고 규칙 기반의 자동화를 가능하게 합니다.

객체 스토리지 위에 메트릭, 로그, 트레이스를 하나의 컬럼 엔진에 통합하는 오픈소스 관측성 데이터베이스로, SQL 기반의 신호 간 상관 분석을 가능하게 합니다.

Qwen 웹 인터페이스 및 CLI를 OpenAI 호환 API로 변환하는 프록시 서비스로, Qwen 모델을 OpenAI 지원 클라이언트에서 사용할 수 있게 합니다.

NVIDIA CUDA 및 HUAWEI Ascend NPU용 경량 C++20 JIT 런타임으로, 디바이스 커널 라이브러리의 커널 컴파일, 캐시, 로드를 처리합니다.

AI Agent Skills를 위한 보안 스캐너로, 정적 분석, 데이터 흐름 분석, LLM 기반 의미론적 검사를 통해 프롬프트 인젝션, 데이터 유출, 악성 코드를 탐지합니다.

대출 및 기업 금융에서 금융 사기, 신용 리스크, 규제 준수 문제를 탐지하기 위한 SQL 및 AI 기반 모델의 모음입니다.

AI 에이전트 기술로 GitHub README를 재구성하여 콘텐츠 계층을 재정렬하고 프로젝트 고유의 SVG 시각 요소를 생성하여 프로젝트의 가치를 즉시 명확히 하는 시스템입니다.

REST API 기반 자동화 엔진으로, AI 에이전트가 800개 이상의 전문 기술 라이브러리를 통해 Unity 에디터를 제어할 수 있도록 합니다.

개발자와 AI 에이전트를 위한 앱 배포 및 운영을 단순화하기 위해 고수준 추상화와 개발자 포털을 제공하는 Kubernetes용 오픈소스 개발자 플랫폼.

엔터프라이즈 애플리케이션에 다양한 AI 모델과 벡터 스토어를 포터블하고 모듈화된 방식으로 통합할 수 있도록 하는, Java 개발자를 위한 Spring 친화적인 API 및 추상화 계층입니다.

작업 라우팅, 런타임 제공자, 상태 재정렬을 위한 구성 가능한 인프라를 제공하는 다중 에이전트 코딩 워크플로우용 오케스트레이션 빌더 SDK입니다.

오픈소스 자격 증명 프록시 및 금고로, 보안 MITM 프록시를 통해 API 접근을 중개하여 AI 에이전트가 비밀을 유출하는 것을 방지합니다.

XGBoost는 대규모 데이터 과학 문제를 위한 빠르고 정확한 병렬 트리 부스팅을 제공하는 최적화된 분산 그래디언트 부스팅 라이브러리입니다.

다양한 프로토콜을 지원하는 통합형 Rust 기반 메시징 브로커로, AI 에이전트의 발견과 비동기 메시징을 위한 전용 통신 인프라(mq9)를 제공합니다.

TokenSave는 코드베이스의 의미적 지식 그래프를 구축하는 로컬 MCP 서버로, AI 코딩 에이전트가 grep과 read로 파일을 스캔하는 대신 심볼, 호출자, 영향을 질의할 수 있게 해 토큰 사용량과 도구 호출을 줄입니다.

Kubernetes를 위한 컨테이너 네이티브 워크플로우 엔진으로, 병렬 작업을 오케스트레이션하며 특히 머신러닝 파이프라인 및 데이터 처리에 최적화되어 있습니다.

고정된 Ruby on Rails 애플리케이션을 구축하도록 모델을 지시하고 엄격한 기술적 기준으로 결과를 감사함으로써 자율적 LLM 코딩 성능을 평가하는 벤치마크 스위트.

Entroly는 관련 코드베이스 증거를 선택하고 압축하여 AI 토큰 비용을 줄이는 로컬 우선의 컨텍스트 보증 레이어이며, 원본 데이터를 정확히 복원할 수 있는 수령증을 제공합니다.

그래프 기반 추상화를 사용하여 기존 프레임워크의 복잡함 없이 에이전트, RAG 및 워크플로우를 구축할 수 있는 100줄 규모의 미니멀리스트 LLM 프레임워크입니다.

Amazon Bedrock AgentCore용 샘플 및 튜토리얼 모음으로, AWS에서 프레임워크 및 모델에 관계없이 AI 에이전트를 안전하게 대규모로 배포하고 운영할 수 있는 인프라를 제공합니다.

API 키 없이 옵션 그리스 문자, SEC 제출 문서, 숏 볼륨을 포함한 포괄적인 미국 및 홍콩 시장 데이터에 접근할 수 있는 AI 코딩 어시스턴트를 위한 툴킷.

객체와 벡터를 함께 저장함으로써 대규모 의미 검색을 가능하게 하는 오픈소스 클라우드 네이티브 벡터 데이터베이스입니다.

git worktree를 자동화하고 모든 OS에서 여러 CLI 에이전트를 병렬로 실행할 수 있는 통합 인터페이스를 제공하는, AI 코딩 에이전트를 위한 키보드 중심 관리 계층입니다.

Airframe WebGPU 엔진에서 실행되는 100% Rust로 작성된 가벼운 OpenAI 호환 추론 서버. GGUF 모델을 지원합니다.

NeMo AutoModel은 NVIDIA의 Python 라이브러리로, 방대한 범위의 LLM, VLM 및 확산 모델에 대해 즉시 사용 가능하며 고도로 최적화된 학습 레시피를 제공합니다. 풀 파라미터 및 LoRA 파인튜닝, 멀티노드 텐서 및 파이프라인 병렬성, 그리고 추측 디코딩 드래프터까지 지원하며, 모두 간단한 YAML 구성으로 구동됩니다.

LLM 트레이닝 및 추론과 같은 분산 AI 워크로드를 위한 Ray 클러스터의 배포, 오토스케일링 및 관리를 간소화하는 Kubernetes Operator입니다.

제공업체가 주장하는 모델을 실제로 사용하고 있는지 검증하는 오픈소스 본물성 및 준수 체크 도구

모바일 기기와 웨어러블 장치를 위한 하이브리드 에지-클라우드 AI 엔진으로, 사용자 정의 양자화와 하드웨어 전용 커널을 사용하여 텍스트, 음성, 비전 모델의 추론을 최적화합니다.

AI 에이전트를 위한 전문적인 데이터 분석 기술로, 원시 셀 검사와 체크섬 재정리로 Excel에서 발생하는 침묵적 계산 오류를 방지하는 엄격한 8단계 감사 및 재정리 워크플로우를 구현합니다.

오픈소스 SERP API 및 CLI로, API 키 없이 여러 검색 엔진의 구조화된 검색 결과를 제공하며 LLM 근거 제공 및 SEO 추적을 위해 설계되었습니다.

여러 AI 코딩 에이전트를 병렬로 실행하고 감시할 수 있는 네이티브 macOS 터미널로, 통합 승인 인보이스와 MCP 기반의 에이전트 간 통신을 제공합니다.

29개의 AI 코딩 어시스턴트의 기록을 통합하여 하나의 인터페이스에서 오프라인으로 탐색, 검색, 분석할 수 있는 도구입니다.

Codex CLI의 모바일 동반자로, 실제 작업과 데이터는 컴퓨터에 유지하면서 스마트폰에서 AI 코딩 세션을 모니터링하고 조정할 수 있습니다.

NVIDIA DGX Spark에 최적화된 Docker 기반 배포 프레임워크로, 고성능 단일 노드 및 멀티노드 클러스터 추론을 가능하게 합니다.

28개의 보안 도구와 24개의 API를 통합하여 AI 어시스턴트를 보안 분석가로 전환하는 MCP 서버로, CVE 트리아지와 위험 점수 매기기를 자동화합니다.

TokenHub는 AI 모델 제공자를 위한 기업용 토큰 가버넌스 인프라로, 중앙 집중식 모델 라우팅, 접근 제어 및 비용 최적화를 제공합니다.

SkyPilot은 AI 팀이 Kubernetes, Slurm 또는 공용 클라우드 GPU/TPU 리소스 조합에서 AI 학습, 추론 및 기타 작업을 시작, 예약 및 확장할 수 있도록 지원하는 오픈 소스 시스템입니다. 짧은 YAML/Python 사양(리소스, 코드, 설정, 실행 명령)으로 작업을 설명하면 SkyPilot이 자동으로 가장 저렴한 공급자를 선택하고, 머신을 프로비저닝하며, 코드를 동기화하고, 작업을 실행한 뒤 유휴 리소스를 종료합니다. 자동 장애 조치, 빈 패킹(bin-packing), 갱 스케줄링(gang scheduling), 다중 클러스터 제어, 프로덕션급 엔드포인트, 신뢰할 수 없는 LLM 생성 코드의 샌드박스 실행 등의 기능을 포함합니다. `uv pip install "skypilot[aws,gcp,azure,kubernetes,…]"`로 설치하고 `sky launch <spec>`으로 시작할 수 있습니다. 수십 개의 클라우드를 지원하며 주요 프레임워크(PyTorch, DeepSpeed, Jax/TPU, vLLM, Airflow, Jupyter 등)와 통합되어 AI 컴퓨팅의 이식성과 비용 효율성을 높여줍니다.