DashAISoftware/dashAI

dashAI – 用于 AI 模型生命周期的图形化工具箱

它是什么

• 一个开源的桌面/网页应用程序，让您通过可视化界面训练、评估和部署现代 AI 模型（特别是 GGUF 格式的大型语言模型）。
• UI 在浏览器中运行，但由本地服务器启动，因此所有内容都保留在您的机器上。

主要功能

• 模型处理 – 通过 llama‑cpp‑python 支持 PyTorch 模型和 LLM（Llama, Mistral, Qwen 等）
• 实验管理 – 将数据集、运行记录和结果存储在本地 SQLite 数据库中（由 Alembic 处理迁移）。
• GPU 加速 – 可选的 CUDA (12.8) 或 ROCm (6.4) 构建；否则仅支持 CPU 运行。
• 跨平台 – Windows 10/11、macOS 14+ (仅限 Apple Silicon) 以及现代 Linux x64。
• 封装选项 – 开箱即用的安装程序 (AppImage, .exe, .dmg)、PyPI 包或 Docker 镜像（CPU 或 CUDA）。

如何获取

1. 桌面安装程序 – 从最新的 GitHub release 下载对应文件并运行。无需 Python 或依赖项；安装程序已内置 Python 3.12、仅 CPU 的 PyTorch 和 llama‑cpp‑python。
2. PyPI – uv tool install dashai（推荐）或 pip install dashai。安装后，您可以运行 dashai 来启动服务器。
3. Docker – 构建提供的 Dockerfile (CPU) 或 Dockerfile.cuda (CUDA) 并运行容器，开放 8000 端口。

典型工作流程

# start the app (installed via pip/uv or from source)
$ dashai               # or: python -m DashAI
# open a browser to http://localhost:8000

• 使用 UI 上传数据集（请参阅配套的 DashAI_Datasets 仓库）、配置训练参数、启动实验并监控指标。
• 结果会保存在您通过 --local‑path 指定的目录中（默认为 ~/.DashAI）。

安装细节

• 仅 CPU：内置安装程序已包含兼容的 PyTorch wheel。若要进行更精简的 pip 安装，请从 cpu 索引重新安装 PyTorch。
• GPU：安装基础包后，从 CUDA 或 ROCm 索引重新安装 PyTorch，并使用适当的 CMake 标志（-DGGML_CUDA=on 或 -DGGML_HIP=on）编译 llama‑cpp‑python。您需要较新的编译器、CUDA Toolkit (≥12.8) 或 ROCm SDK，以及匹配的驱动程序。
• Apple Silicon：安装程序适用于 ARM macOS；pip 安装适用于 Intel 和 Apple Silicon，但内置的二进制文件在 x86 上需要 AVX2。

开发

• 前端 (React/Yarn) 位于 DashAI/front。运行 yarn install 然后 yarn start 进行热重载。
• 后端 (Python) 使用 uv 进行依赖管理；uv sync 会设置包含开发额外项目（cpu, cuda）的虚拟环境。使用 uv run dashai 或 uv run python -m DashAI 运行服务器。
• 数据库结构迁移由 Alembic 管理，并在启动时自动执行。
• 测试使用 pytest 编写，可从 DashAI/back 运行。

幕后团队

• 由智利大学、UTFSM 以及合作机构（CENIA, IMFD, Unholster）的学生和研究人员开发，并获得 ANID 资助。

何时选择 dashAI

• 您想要一个本地、GUI 驱动的环境来实验 LLM，而无需编写代码。
• 您需要一个轻量级、跨平台的设置，可以在 CPU 上运行，或在可用时利用 GPU。
• 您偏好一体化的安装程序或容器化部署。

---

以上所有信息均直接取自项目的 README。