ax-llm/ax

해결하는 문제

Ax는 LLM 애플리케이션을 구축하기 위한 통합적이고 언어에 구애받지 않는 프로그래밍 모델을 제공합니다. 수동 프롬프트 엔지니어링이 필요 없으며, 단일 의미적 코어를 사용해 TypeScript, Python, Java, C++, Go, Rust 등 여러 언어에서 타입 지정된 구조화된 생성을 정의할 수 있습니다.

작동 방식

Ax는 "서명(Signatures)"을 사용하여 입력과 출력을 타입 지정된 구조화된 데이터로 정의합니다. 이러한 서명은 문자열 DSL, 플루언트 빌더, 또는 Standard Schema v1 검증기(Zod 등)를 통해 정의할 수 있습니다. 시스템은 이러한 정의를 다양한 언어용 네이티브 라이브러리로 컴파일합니다. 3단계 에이전트 파이프라인(Distiller → Executor → Responder)과 재귀적 런타임(RLM)을 갖추고 있으며, JS를 사전 처리된 세션에서 실행하고 체크포인트 재실행을 사용해 프롬프트 부풀어오름을 방지합니다.

대상 사용자

다른 런타임 스택에서 실행되거나 기존 다중 언어 환경에 통합되어야 하는 견고하고 타입 안전한 LLM 에이전트 및 워크플로우를 구축해야 하는 소프트웨어 엔지니어.

주요 특징

• 다중 언어 지원: 단일 코어를 TypeScript, Python, Java, C++, Go, Rust로 컴파일 가능.
• 타입 지정된 구조화된 생성: Zod, Valibot, 또는 사용자 정의 문자열 DSL을 사용한 엔드투엔드 타입 안전성.
• 고급 에이전트 아키텍처: 컨텍스트 예산, 메모리(벡터/BM25), 스킬(런북), 도구 실행을 위한 사전 처리된 JS 런타임 포함.
• 프로바이더 독립: 코드 변경 없이 OpenAI, Anthropic, Gemini 등 프로바이더 간 전환 가능 (배포 프로파일을 통해).
• AxFlow: 타입 안전하고 체인 가능한 워크플로 러너로, 안전한 DAG로 실행을 최적화.
• 다중 모달 및 오디오: 이미지, 오디오, 실시간 음성 스트림을 내장 지원.