pytorch/extension-cpp

C++ extensions in PyTorch

해결하는 문제

PyTorch에서 사용자 지정 C++/CUDA 작업을 생성하기 위한 참조 구현을 제공하여 개발자가 CPU와 GPU 모두에서 실행할 수 있는 고성능 커널을 구현할 수 있도록 합니다.

작동 방식

이 저장소에는 확장을 빌드하기 위한 두 가지 다른 접근 방식이 포함되어 있습니다.

  • 표준 ATen API: 전체 ATen/LibTorch API를 사용하는 전통적인 방법.
  • Stable ABI: LibTorch Stable ABI (PyTorch 2.10+용)를 사용하는 방법으로, 재컴파일 없이 여러 PyTorch 버전 간에 확장 호환성을 유지할 수 있습니다.

대상 사용자

PyTorch용 사용자 지정 고성능 연산자를 작성해야 하며 표준 API 또는 Stable ABI를 사용하여 구현하는 방법을 확인하려는 개발자.

주요 특징

  • mymuladd 사용자 지정 작업 시연.
  • CPU 및 CUDA 커널 모두 포함.
  • 버전 간 호환성을 위한 LibTorch Stable ABI 지원.

관련

  • 프로젝트
    googleapis/go-genai

    Go 애플리케이션에 Google의 Gemini 생성형 AI 모델과 Gemini Enterprise Agent Platform을 통합할 수 있는 인터페이스를 제공하는 Go SDK입니다.

  • 프로젝트
    Sec-Link/Argus-Agentic-SOC-Platform

    Argus는 경보 수집, 티켓팅, 자산 인벤토리, 상관관계 규칙, 대시보드 및 워크플로우 자동화를 통합한 오픈소스 AI 네이티브 보안 운영 센터(SOC) 플랫폼입니다. 자연어 쿼리에 답변하고, 유사한 사례를 검색하며, JSON-RPC 스타일 인터페이스를 통해 도구를 호출할 수 있는 대화형 AI 어시스턴트를 제공합니다. Next.js 프론트엔드, Django/DRF 백엔드, PostgreSQL(선택적으로 Elasticsearch)로 구축되었으며, SOC 기능을 확장하기 위한 모듈식 API 우선 아키텍처를 제공합니다.

  • 프로젝트
    scverse/gget

    효율적이고 단일 줄 명령으로 게놈 참조 데이터베이스와 서열 분석을 수행할 수 있는 명령줄 도구 및 Python 패키지입니다.

  • 프로젝트
    trhhubsd/ARTEXX

    멀티 에이전트 아키텍처와 듀얼 그래프 상태 관리를 사용하여 취약점 발견 및 공격 체인 실행을 자동화하는 AI 기반 자율 침투 테스트 시스템.