microsoft/promptflow

Prompt flow – 개요

정의 – Prompt flow는 대규모 언어 모델(LLM)을 사용하는 애플리케이션을 구축, 테스트, 배포하기 위한 Microsoft 유지 관리 툴킷입니다. 프롬프트, Python 코드 및 기타 '도구'를 단일 흐름으로 묶어 로컬, CI/CD 파이프라인 또는 클라우드 서비스로 실행할 수 있습니다.

주요 기능

• 흐름 작성 – LLM 호출, 프롬프트 및 사용자 지정 Python 노드를 연결하는 DAG(flow.dag.yaml)를 정의합니다. CLI(pf)는 새 흐름(예: 챗봇)을 스캐폴딩하고 OpenAI 또는 Azure OpenAI에 대한 연결을 관리할 수 있습니다.
• 디버그 및 추적 – 대화형 테스트(pf flow test --interactive)를 통해 흐름을 단계별로 실행하고 각 LLM 상호 작용을 확인하여 프롬프트 엔지니어링을 반복할 수 있습니다.
• 평가 – 더 큰 데이터 세트에서 흐름을 실행하고 메트릭을 수집하며 결과를 CI/CD에 통합하여 릴리스 전에 품질을 보장합니다.
• 프로덕션 준비 – 흐름을 모든 서빙 플랫폼에 배포하거나 애플리케이션에 직접 포함할 수 있습니다. Azure AI는 관리형 클라우드 버전을 제공합니다.
• IDE 지원 – VS Code 확장 프로그램이 비주얼 흐름 디자이너를 제공합니다.

일반적인 워크플로우

1. 생성 – 흐름을 초기화합니다(pf flow init …).
2. 구성 – LLM API 키에 대한 연결을 구성합니다(pf connection create …).
3. 개발 – 프롬프트와 Python 노드를 개발하고 대화형으로 테스트합니다(pf flow test).
4. 평가 – 테스트 세트에서 평가하고 CI/CD와 통합합니다.
5. 배포 – Azure 또는 자체 런타임에 배포합니다.

상태 – 프로젝트는 2027년 4월 20일에 폐기될 예정입니다. Microsoft는 새 작업을 Microsoft Agent Framework로 마이그레이션할 것을 권장합니다. 기존 컨테이너 이미지는 해당 날짜 이후 업데이트되지 않습니다.

---

빠른 시작 스냅샷 (README에서)

# 챗봇 흐름 스캐폴딩
pf flow init --flow ./my_chatbot --type chat

# OpenAI 키 추가
pf connection create --file ./my_chatbot/openai.yaml \
    --set api_key=<your_api_key> --name open_ai_connection

# 봇 대화형으로 실행
pf flow test --flow ./my_chatbot --interactive

---

누가 사용할까?

• 데이터 사이언티스트 / ML 엔지니어 – 구조화되고 재현 가능한 파이프라인을 원하는 LLM 기반 제품을 구축하는 분.
• 개발자 – 프롬프트 엔지니어링에 CLI + VS Code UI를 선호하고 내장 추적 및 평가를 원하는 분.
• 팀 – Azure 생태계 내에서 프로토타입에서 프로덕션으로 이동하려는 팀(2027년 이전에 Agent Framework로 마이그레이션을 계획해야 함).

---

라이선스 및 기여

• MIT 라이선스.
• 풀 리퀘스트를 통한 기여를 환영합니다. CLA가 필요합니다.
• 커뮤니티 채널: GitHub issues, discussions, VS Code 마켓플레이스 확장 프로그램.