Gabriella439/grace
A prompt engineering functional programming language
解决的问题
Grace 是一种专为模型提示(prompting)设计的领域特定语言(DSL)。它通过将模型交互直接集成到语言语法中,简化了复杂提示链的创建以及从 LLM 生成结构化数据的过程。
工作原理
Grace 将提示视为一等公民。它使用内置的 prompt 函数,可根据类型注解返回结构化数据。语言的类型检查器能够根据输出在后续代码中的使用方式,反向推理出必要的 JSON 模式以约束模型输出,通常允许用户在类型足够描述性的情况下省略提示文本本身。
此外,Grace 支持通过 import prompt 关键字进行「代码生成」,该操作会要求模型生成一个特定类型的 Grace 表达式或函数,然后可在同一程序中执行。
适用人群
希望以更程序化、类型安全的方式构建提示链和 LLM 驱动的应用程序,而无需手动管理 JSON 模式或样板代码的开发者。
特色亮点
- 集成模型支持:模型提示直接内置于语言中,无需外部导入或依赖项。
- 基于类型的提示:使用类型注解自动为模型约束生成 JSON 模式。
- 类型推论:根据结果在循环或变量赋值中的使用方式,推断所需的输出格式。
- 图灵完备的代码生成:能够使用 LLM 实时生成并执行 Grace 代码。
- 交互式环境:提供基于浏览器的沙盒环境和命令行 REPL。
相关
- 项目
- 项目
- 项目
- 项目