InseeFrLab/onyxia
🔬 Data science environment for k8s
해결하는 문제
Onyxia는 데이터 과학자들이 Kubernetes 클러스터에서 작업 환경을 배포하고 관리할 수 있도록 중앙 집중식 웹 인터페이스를 제공합니다. 복잡한 인프라를 수동으로 설정할 필요 없이, Jupyter나 RStudio와 같은 다양한 데이터 과학 도구를 필요에 따라 즉시 실행할 수 있게 해줍니다.
작동 방식
Onyxia는 다양한 오픈소스 백엔드 기술 간의 '접착제' 역할을 합니다. 사용자는 Helm 차트 카탈로그에서 컨테이너를 시작할 수 있으며, 다음 기능을 제공합니다:
- 자원 할당: 사용자는 세션에 필요한 CPU, RAM, GPU 자원 양을 지정할 수 있습니다.
- 사용자 정의: 시작 시 실행할 환경 변수와 사용자 정의 초기화 스크립트를 정의할 수 있습니다.
- 통합: S3를 통한 데이터 저장, Vault를 통한 시크릿 관리, Keycloak을 통한 인증과 깊이 통합되어 있습니다.
대상 사용자
Kubernetes를 활용해 연구 및 분석을 위한 확장 가능하고 즉시 사용 가능한 작업 환경을 제공하는 데이터 과학자 및 조직.
주요 특징
- 온디맨드 환경: Helm 차트를 통해 Jupyter, RStudio 및 기타 도구를 시작.
- GPU 지원: 컨테이너에 대한 GPU 할당을 직접 제어 가능.
- 기업 통합: S3, Vault, Keycloak의 내장 지원.
- 구성 관리: 서비스 구성의 저장 및 복원 기능.
관련
- 프로젝트
odysseus-dev/odysseus이메일, 캘린더, 노트 등의 도구와 AI 기능을 통합한 통합형 자체 호스팅 AI 워크스페이스로, 개인 환경에서 디지털 삶과 AI 워크플로우를 관리할 수 있습니다.
- 프로젝트
dell/omniaOmnia는 Dell의 오픈소스 Ansible 기반 툴킷으로, Linux 서버의 자동 프로비저닝, 드라이버 설치, Slurm 또는 Kubernetes와 함께 AI/ML 프레임워크를 배포할 수 있습니다. HPC 또는 온프레미스 AI 클러스터를 간편하게 구축할 수 있으며, Apache 2.0 라이선스로, Dell, Intel, 대학 및 기타 파트너가 참여하는 커뮤니티에 의해 지속적으로 유지 관리되고 있습니다.
- 프로젝트
- 프로젝트
lablup/backend.aiBackend.AI는 AI/ML 워크로드 실행을 위한 오픈소스 컨테이너 기반 클러스터 플랫폼입니다. 이기종 가속기에서 격리된 컴퓨트 세션(Jupyter, VS Code, SSH 등)을 스케줄링하고, 가상 폴더 스토리지 레이어를 제공하며, REST/GraphQL API와 Python/Java/JS SDK를 노출합니다. 단일 스크립트로 설치하고, Manager/Agent/Storage/Web 서비스를 시작하고, CLI 또는 웹 UI로 세션을 시작합니다. LGPL-v3 서버 코드, MIT 클라이언트 SDK.
- 프로젝트
onyx-dot-app/onyxOnyx는 50개 이상의 업무용 앱에서 데이터를 인덱싱하고, 하이브리드 벡터-키워드 저장소를 구축하며, 에이전트를 통해 해당 지식을 LLM에 제공하는 오픈소스 자체 호스팅 플랫폼입니다. 웹 검색, 샌드박스 코드 실행, 외부 작업, 음성 상호작용을 지원하며 주요 LLM 제공업체와 연동됩니다. Docker/Kubernetes(표준 또는 경량 Lite 모드)를 통해 배포할 수 있으며, MIT 라이선스의 커뮤니티 에디션과 대규모 팀을 위한 엔터프라이즈 애드온을 제공합니다.