GPT-NL：荷兰的主权语言模型

GPT-NL 通过主权 AI 生态系统建立荷兰的数字自主权

GPT-NL 是由 TNO 与 SURF 以及荷兰法医研究所（NFI）合作开发的独立荷兰语言模型及生态系统。该项目旨在通过构建具备强大治理、透明度和公共价值承诺的模型，降低对非欧洲 AI 供应商的依赖，确保荷兰对其 AI 基础设施的技术、数据和伦理选择保持控制。

核心原则与治理

GPT-NL 以四项核心价值为设计基础，以确保模型保持可信并与社会目标保持一致：

主权与控制

在荷兰和欧洲内部开发的 GPT-NL 提供对模型及其训练数据的完整控制。这一做法旨在使 AI 生态系统符合欧洲法律和社会目标，避免依赖外部供应商。

透明度与开放性

项目通过多种机制强调从源头到模型的可视化：

  • Open Source Code: 源代码已以开源方式发布。
  • Dataset Insights: 对训练数据集的详细洞察已公开共享。
  • Controlled Licensing: 模型权重在受控许可证下提供，以跟踪使用情况并管理更新或数据退出。
  • Documentation: 所有关于数据收集、训练以及偏见和伦理风险缓解的决策均有明确文档记录。

可信度与数据完整性

为消除与数据来源不明或版权侵权相关的风险，GPT-NL 完全从头训练。数据收集过程遵循严格标准：

  • 在训练前对个人数据进行匿名化和删除。
  • 排除机密或有害内容。
  • 保护知识产权。
  • 防止数据集内部出现重复数据。

互惠与公平价值

GPT-NL 实施合法的数据供应链，数据提供者和权利持有人通过内容委员会积极参与。该模型确保部分收入回流给创作者，将价值提取模式转变为价值共享模式。

资源效率与公共资助

环境可持续性

鉴于大型语言模型开发所需的高能耗和用水量，项目专注于基于科学研究优化模型规模和训练过程，以最小化其生态足迹。

财务支持

该项目由荷兰企业局（RVO）代表经济事务与气候政策部提供公共资金，总拨款为 1350 万欧元。

技术与战略批评

尽管项目强调主权，但在技术社区中对其可行性和战略方向持怀疑态度。讨论的关键点包括：

预算与能力担忧

批评者质疑 1350 万欧元的预算是否足以从头打造具竞争力的高质量模型，有人认为该资金水平可能只能实现类似 GPT-2 等旧模型的能力。

主权与开源策略对比

部分观察者认为真正的主权应聚焦于基础设施（计算发生的地点），而非模型架构。建议包括：

  • 在现有高性能开源权重基线（如 Qwen 或 Kimi）之上构建，并针对特定代理实用性进行微调。
  • 在欧洲层面进行合作，而非各自为政，以实现规模法则所需的规模。

经济与监管壁垒

讨论指出欧洲监管目标（如欧盟 AI 法案）与 AI 开发的经济现实之间存在感知差距。有人认为欧洲缺乏美国和中国所具备的风险资本和“紧迫感”，这可能阻碍主权模型与前沿模型的竞争能力。

"我一次又一次看到这些‘主权’语言模型……与其在‘主权’声称上烧钱，国家研究实验室应该专注于在坚实的基线之上构建……并对前沿模型进行具有真实代理实用性的微调。"

"在我看来，收入共享模型比它是荷兰的更有趣。数据的使用以及与数据提供者共享，是这些模型创建的内在部分，却没有得到足够的讨论。"

Sources