DashAISoftware/dashAI

dashAI – AI 모델 수명 주기를 위한 그래픽 툴박스

소개

• 시각적 인터페이스를 통해 최신 AI 모델(특히 GGUF 형식의 대규모 언어 모델)을 학습, 평가 및 배포할 수 있는 오픈 소스 데스크톱/웹 애플리케이션입니다.
• UI는 브라우저에서 실행되지만 로컬 서버에서 시작되므로 모든 데이터가 사용자 기기에 유지됩니다.

주요 기능

• 모델 처리 – llama‑cpp‑python을 통한 PyTorch 모델 및 LLM(Llama, Mistral, Qwen 등) 지원
• 실험 관리 – 데이터셋, 실행 기록 및 결과를 로컬 SQLite 데이터베이스에 저장(마이그레이션은 Alembic으로 처리)
• GPU 가속 – 선택적 CUDA(12.8) 또는 ROCm(6.4) 빌드 지원; 그렇지 않은 경우 CPU 전용으로 작동
• 크로스 플랫폼 – Windows 10/11, macOS 14+(Apple Silicon 전용) 및 최신 Linux x64 지원
• 패키징 옵션 – 즉시 실행 가능한 설치 프로그램(AppImage, .exe, .dmg), PyPI 패키지 또는 Docker 이미지(CPU 또는 CUDA)

설치 방법

1. 데스크톱 설치 프로그램 – 최신 GitHub 릴리스에서 적절한 파일을 다운로드하여 실행하십시오. Python이나 종속성이 필요하지 않습니다. 설치 프로그램에는 Python 3.12, CPU 전용 PyTorch 및 llama‑cpp‑python이 번들로 포함되어 있습니다.
2. PyPI – uv tool install dashai(권장) 또는 pip install dashai를 사용하십시오. 설치 후 dashai를 실행하여 서버를 시작할 수 있습니다.
3. Docker – 제공된 Dockerfile(CPU) 또는 Dockerfile.cuda(CUDA)를 빌드하고 컨테이너를 실행하여 8000번 포트를 노출하십시오.

일반적인 워크플로우

# start the app (installed via pip/uv or from source)
$ dashai               # or: python -m DashAI
# open a browser to http://localhost:8000

• UI를 사용하여 데이터셋을 업로드하고(동반된 DashAI_Datasets 저장소 참조), 학습 매개변수를 구성하고, 실험을 시작하고, 지표를 모니터링하십시오.
• 결과는 --local‑path로 지정한 디렉토리(기본값 ~/.DashAI)에 저장됩니다.

설치 시 주의사항

• CPU 전용: 번들 설치 프로그램에는 이미 호환되는 PyTorch 휠이 포함되어 있습니다. 더 가벼운 pip 설치를 원하시면 cpu 인덱스에서 PyTorch를 다시 설치하십시오.
• GPU: 기본 패키지를 설치한 후 CUDA 또는 ROCm 인덱스에서 PyTorch를 다시 설치하고 적절한 CMake 플래그(-DGGML_CUDA=on 또는 -DGGML_HIP=on)를 사용하여 llama‑cpp‑python을 컴파일하십시오. 최신 컴파일러, CUDA Toolkit(≥12.8) 또는 ROCm SDK, 그리고 일치하는 드라이버가 필요합니다.
• Apple Silicon: 설치 프로그램은 ARM macOS에서 작동합니다. pip 설치는 Intel과 Apple Silicon 모두에서 작동하지만, 번들 바이너리는 x86에서 AVX2를 요구합니다.

개발

• 프론트엔드(React/Yarn)는 DashAI/front에 있습니다. yarn install 후 yarn start를 실행하여 핫 리로딩을 사용하십시오.
• 백엔드(Python)는 종속성 관리에 uv를 사용합니다. uv sync는 개발용 추가 항목(cpu, cuda)이 포함된 가상 환경을 설정합니다. uv run dashai 또는 uv run python -m DashAI로 서버를 실행하십시오.
• 데이터베이스 스키마 마이그레이션은 Alembic에 의해 관리되며 시작 시 자동으로 실행됩니다.
• 테스트는 pytest로 작성되었으며 DashAI/back에서 실행할 수 있습니다.

개발 팀

• 칠레 대학교, UTFSM 및 파트너 기관(CENIA, IMFD, Unholster)의 학생 및 연구원들이 개발했으며 ANID의 자금 지원을 받았습니다.

dashAI를 선택해야 하는 이유

• 코딩 없이 LLM을 실험할 수 있는 로컬 GUI 기반 환경이 필요한 경우.
• CPU에서 실행되거나 필요 시 GPU를 활용할 수 있는 가볍고 크로스 플랫폼인 설정이 필요한 경우.
• 올인원 설치 프로그램이나 컨테이너화된 배포를 선호하는 경우.

---

위의 모든 정보는 프로젝트의 README에서 직접 가져온 것입니다.