stanfordnlp/dspy

해결하는 문제

DSPy는 취약하고 수동적인 '프롬프트 엔지니어링' 과정을 체계적인 프로그래밍 방식으로 대체합니다. 텍스트 프롬프트를 끊임없이 수동으로 수정할 필요가 없으며, 개발자가 스스로 성능을 최적화하는 모듈식 AI 시스템을 구축할 수 있게 합니다.

작동 방식

정적 프롬프트를 작성하는 대신, 구성 가능한 Python 코드를 사용하여 AI 시스템을 정의합니다. DSPy는 컴파일러 역할을 하여 코드를 가져와 언어 모델이 고품질 출력을 제공하는 방법을 '학습'시킵니다. 단순한 분류기, 복잡한 검색 시스템 (RAG), 또는 에이전트 루프를 구축하든 상관없이 알고리즘을 사용하여 파이프라인의 프롬프트와 가중치를 자동으로 최적화합니다.

대상 사용자

모듈식 AI 애플리케이션을 구축하는 개발자와 연구자를 위해 설계되었으며, 시행착오 방식의 프롬프트에서 벗어나 더 안정적이고 프로그래밍 가능한 언어 모델 파이프라인 개발 방식을 원하는 분들에게 적합합니다.

주요 특징

• AI 파이프라인을 위한 선언적 프로그래밍 모델.
• 프롬프트 및 모델 가중치의 자동 최적화.
• RAG 및 에이전트 루프와 같은 복잡한 아키텍처 지원.
• 코드 재사용과 빠른 반복을 장려하는 모듈식 설계.
• 출력을 스스로 개선하기 위한 계산 제약 조건에 대한 내장 지원.