microsoft/prompty
Prompty makes it easy to create, manage, debug, and evaluate LLM prompts for your AI applications. Prompty is an asset class and format for LLM prompts designed to enhance observability, understandability, and portability for developers.
解决的问题
Prompty 为 LLM 提示词提供了一种标准化、可移植的 Markdown 文件格式 (.prompty)。它将提示工程流程与应用程序代码解耦,允许开发者编写一次提示词,并在不同的语言运行时 (Python, TypeScript, Rust, C#, Java, Go, Swift) 和 LLM 提供商 (OpenAI, Microsoft Foundry, Anthropic) 中执行,而无需更改提示词内容。
运作方式
Prompty 使用两部分文件结构:用于配置的 YAML frontmatter (模型 ID、提供商、连接细节、输入和工具),以及使用角色标记 (例如 system:, user:) 和模板语法 (Jinja2 或 Mustache) 的 Markdown 正文。
执行提示词时,Prompty 运行时会加载文件、使用提供的输入渲染模板、解析角色,并将请求发送至 LLM 提供商。对于更复杂的交互,turn() 函数可启用“代理回合”(agentic turns),允许模型在返回最终答案前,循环执行工具调用并管理内存/上下文预算。
目标对象
开发 LLM 驱动应用程序的开发者,希望以一致的方式在多种编程语言和不同模型提供商之间管理、版本控制和测试提示词。
特色亮点
跨运行时支持:提供 Python, TypeScript 以及包括 Rust, C#, Java, Go, Swift 在内的多种语言官方包。
VS Code 扩展:包含实时预览、用于管理端点的连接侧边栏、用于交互式测试的聊天模式,以及用于调试完整流水线的追踪查看器。
代理能力:支持工具调用循环、运行时控制 (防护栏、重试) 以及具备内存意识的回合,以实现可移植的代理行为。
可移植资产:允许通过环境变量或运行时设置切换 LLM 端点和密钥,而无需修改提示词文件本身。
引用与追踪:每次执行都会生成一个
.tracy追踪文件,用于检查渲染、解析、执行时间和负载。
相关
- 项目
- 项目
- 项目
- 项目
- 项目