Nemotron-Personas-Finance-Japan 发行说明

Nemotron-Personas-Finance-Japan 概述

NVIDIA 和 Elith 推出了 Nemotron-Personas-Finance-Japan,这是一个旨在克服金融行业隐私和合规障碍的合成数据集。通过提供一个规模达百万条记录、反映日本官方人口统计、劳动力和金融统计数据的数据集,该项目使开发人员能够在不依赖敏感真实客户数据的情况下构建和评估代理 AI。该数据集在 CC BY 4.0 许可下发布,可用于商业和非商业用途。

数据集构成与规模

该数据集旨在为训练和测试 AI 模型提供高保真、多样化的日本人口表征:

  • 容量:总计包含 900 万个人物画像(100 万条记录,每条记录有 9 种人物变体)。
  • 复杂性:每条记录包含 50 个字段,分为人物属性、人口统计数据以及基于政府统计的 30 个上下文相关字段。
  • 多样性:包括超过 1,600 个职业类别和约 950,000 个唯一姓名。
  • 内容:数据总量约为 15 亿个 token,其中 7.5 亿个 token 专门用于人物画像特定信息。
  • 属性:人物画像包含详细的自然语言属性,包括金融素养、金钱观、职业目标和家庭财务背景。

技术开发与方法论

该数据集采用复合 AI 方法生成,以确保统计基础和文化相关性:

  • 框架:生成流水线利用 NVIDIA 的 NeMo Data Designer 进行结构化输出和验证,并结合 NeMo SDG-PGMs(概率图模型)进行统计对齐。
  • 生成模型:文本生成由 gemma-4-31B-it 模型驱动。
  • 文化背景:为了改进原始政府统计数据,开发人员引入了更细致的教育水平划分,扩展了职业类别,并模拟了退休或失业等特定人生阶段,从而创建出更真实、更细致的人物画像。

隐私与实际应用

由于该数据集完全是合成的,它被设计为“隐私设计”(private by design),消除了泄露真实个人数据的风险。它旨在用于几个核心的金融 AI 用例:

  • 客户模拟:与 NeMo User Sim 框架集成,允许基于现实世界分布立即执行模拟。
  • 代理开发:作为构建对话式 AI 助手和销售支持代理的基础。
  • 模型评估:促进红队测试和偏见测试,以确保 AI 系统在不同人口统计群体(如城市与农村人口或不同经济背景)中表现一致。

与更广泛工具的集成

Nemotron-Personas-Finance-Japan 是 NVIDIA 更广泛的合成数据工具生态系统的一部分。它旨在与 Nemotron-PII-Japan 协同工作,后者是一个同时发布的数据集,包含 100,000 份带有标记个人信息的合成商业文档。这些工具共同允许开发人员在模拟真实客户互动的同时,测试数据脱敏和 PII 保护流水线的有效性。

Sources