roboflow/inference

Turn any computer or edge device into a command center for your computer vision projects.

roboflow/inference – 자체 호스팅형 컴퓨터 비전 추론 서버

무엇인가요

어떤 컴퓨터, 에지 장치, GPU 머신도 완전한 기능의 컴퓨터 비전 허브로 바꾸는 로컬(또는 Docker 기반) 서버를 실행하는 Python 패키지(inference)입니다.
자체적으로 미세 조정한 모델을 로드하거나, 사전 학습된 기초 모델 카탈로그(예: Florence-2, CLIP, SAM-2)를 사용할 수 있습니다.
핵심 개념은 워크플로우입니다: 모델 추론, 전통적인 컴퓨터 비전 단계(OCR, 바코드 읽기, 템플릿 매칭), 사용자 정의 Python 코드를 조합하여 재사용 가능한 파이프라인을 만드는 구성 가능한 블록입니다.

주요 기능

모델 서빙 – Roboflow로 훈련한 모델이나 카탈로그에서 공개 모델을 가져와 호스팅할 수 있습니다.
비디오 스트림 처리 – RTSP, 웹캠, 기타 스트림을 입력받으며 GPU 가속 배치, 디코딩, 멀티프로세싱을 지원합니다.
워크플로 엔진 – 검출, 세그멘테이션, 트래킹, 카운팅, 측정, 알림 등 드래그 앤 드롭 형식의 블록을 사용할 수 있으며, 사용자 정의 Python 블록도 작성 가능합니다.
API 및 SDK – REST API(OpenAPI 문서는 /docs에 있음)와 Python SDK(inference-sdk)를 통해 프로그래밍 제어가 가능하며, 비디오 파이프라인 시작/정지 및 결과 소비도 가능합니다.
하이브리드 클라우드/에지 – 완전히 온프레미스에서 무료로 실행(크레딧 사용 없음)하거나 Roboflow 클라우드에 연결해 개인 모델, 데이터셋 업로드, 모델 모니터링, 관리형 배포를 사용할 수 있습니다.
엔터프라이즈 확장 기능 – 견고한 Jetson 기반의 "Flowbox" 장치용 소스 공개형 엔터프라이즈 모듈, OPC/MQTT 통합, 장치 관리 기능이 옵션으로 제공됩니다.

빠른 시작

pip install inference-cli
inference server start --dev   # 적절한 Docker 이미지를 다운로드하고 http://localhost:9001/notebook/start에서 Jupyter 노트북을 실행

노트북은 모델 로드, 워크플로 생성, 카메라 연결까지 단계별로 안내합니다.

주요 사용 사례

설치 및 플랫폼 지원

라이선스

더 알아보기

결론 Roboflow Inference는 비디오 스트림에 중점을 두고 있으며, 기존 시스템에 쉽게 통합할 수 있도록 설계된, 생산 환경에서 사용 가능한 자체 호스팅 플랫폼입니다. 대규모로 컴퓨터 비전 모델을 구축, 연결, 배포할 수 있습니다.