xaviviro/python-toon

解决的问题

本项目提供了 TOON（Token-Oriented Object Notation）格式的 Python 实现，旨在减少向大型语言模型（LLMs）传输结构化数据时的令牌使用量。其目标是解决标准格式（如 JSON）中存在的令牌效率低下问题，这些格式通常包含冗余的标点符号，消耗不必要的令牌。

工作原理

TOON 结合了类似 YAML 的缩进嵌套和类似 CSV 的表格化数据行格式。在可能的情况下，消除冗余的大括号、方括号和引号。对于一致的对象集合，它将键合并为单一表头，并将值以行的形式列出，显著减少字符数和令牌数。

适用人群

希望优化提示和响应以节省令牌成本，并可能通过提供更紧凑的数据表示来提升模型性能的 LLM 集成应用开发者。

主要亮点

• 令牌减少：对于一致的数据，相比 JSON 可实现 30-60% 的令牌减少。
• 表格数组：对一致的对象集合使用类似 CSV 的行格式，支持嵌套的一致对象。
• 双向转换：包含 encode 和 decode 函数，并支持严格验证选项。
• CLI 工具：提供命令行界面，用于在 JSON 和 TOON 格式之间转换。
• 零依赖：使用纯 Python 3.8+ 编写。