langgenius/dify

Build Agentic workflows, RAG pipelines, with rich AI model and tool support on one collaborative workspace. Deploy on cloud, VPC, or self-hosted, so teams move from prototype to production without rebuilding the stack.

What it solves

Dify 提供一個統一的平台來開發 LLM 應用，降低從原型到可投入生產的應用的摩擦。它將各種 AI 元件——如模型管理、RAG 管線與代理功能——整合到單一直觀的介面中。

How it works

Dify 作為 LLM 應用開發平台，結合了多個核心模組：

Visual Workflow: 用於視覺化構建與測試 AI 工作流程的畫布。
Model Support: 透過多家供應商整合數百種專有與開源 LLM（例如 GPT、Mistral、Llama3）。
Prompt IDE: 專門的環境，用於編寫與比較 Prompt 效能。
RAG Pipeline: 文件匯入與檢索系統，支援 PDF、PPT 等格式。
Agent Framework: 支援基於 ReAct 或 LLM Function Calling 的代理，內建超過 50 種工具（例如 Google Search、DALL·E）。
LLMOps: 監控應用日誌並根據生產資料改進 Prompt 與資料集的工具。
BaaS: 所有功能皆可透過 API 存取，整合至現有業務邏輯。

Who it’s for

此平台設計給開發者與組織，讓他們能快速建置、部署與維護 AI 應用，無論是使用託管雲端服務或自行部署的社群版。

Highlights

Comprehensive Model Integration: 支援大量 LLM 與相容 OpenAI 的 API。
End-to-End Pipeline: 從 Prompt 工程到 RAG 與代理編排全程覆蓋。
Production-Ready Tooling: 包含可觀測性與 LLMOps 功能，監控與分析效能。
Exportable APIs: 作為 Backend-as-a-Service，讓外部應用輕鬆整合。