Dharma Field Extractor：输入任意文档，输出结构化 JSON 字段

概述

Dharma-AI 推出了 Dharma Field Extractor，这是一个拥有 20 亿参数的模型，专门用于从文档中提取结构化数据。与需要复杂提示词才能解析文档的通用 LLM 不同，该模型旨在直接从文档图像中输出符合类型和模式要求的 JSON，在提供更高准确性的同时，推理成本也远低于前沿 API 替代方案。

功能与模式

Field Extractor 在两种不同的模式下运行，允许用户在灵活性与严格的输出要求之间取得平衡：

  • 开放式提取 (Open Extraction)： 模型在没有提供模式的情况下分析文档，根据布局和上下文识别结构化字段（如键值对或表格标题），并将结果以 JSON 格式返回。
  • 模式导向提取 (Schema-Directed Extraction)： 用户提供定义所需字段名称、类型（字符串、数字或布尔值）和嵌套结构的特定模式。模型将文档内容映射到这些键，对于缺失的字段返回 null，并确保输出符合下游数据库集成所需的格式。

技术基础与训练

该模型基于 DharmaOCR-LITE v1.1 构建，这是一种通过监督微调和直接偏好优化 (DPO) 优化的 20 亿参数架构。为了实现其性能，该模型使用 LoRA 适配器在包含 43,384 个示例的数据集上进行了训练。训练数据组合包括三个主要流：

  • 英语多领域数据： 广泛的公共网络文档集合。
  • 巴西领域数据： 葡萄牙语的真实世界文档。
  • 多语言数据： 涵盖各种欧洲和亚洲语言的代表性样本。

这种训练方法强调了跨不同文档类型（包括发票、银行对账单、身份证件和表格）的字段级标注。

性能与基准测试

在涵盖 546 份文档和 1,638 个总测试用例的基准评估中，Dharma Field Extractor 的表现优于多个通用前沿 LLM。评估衡量了字段级 F1 分数、值的 Levenshtein 相似度以及有效 JSON 输出率。该模型获得了 0.834 的分数，超过了 0.741 到 0.816 之间的前沿配置。

除了性能之外，该模型还提供了显著的成本效益。由于它专为在单个 L40S GPU 等基础设施上进行自托管而设计，其运营成本估计比所测试的前沿 API 模型的每 token 定价低 6 到 147 倍。这表明，对于有界限的特定领域任务，专门的小型语言模型可以比大型通用模型提供更优越的结果。

Sources