LegalOn Technologies 人工智能成本优化案例研究

LegalOn Technologies 通过将单一高性能模型的使用转变为基于任务复杂度的分层选择策略,将其预计每日人工智能成本降低了约 65%。这一优化使公司在保持开发速度的同时,将人工智能支出与不同业务部门的发展阶段相匹配。

分层模型选择策略

LegalOn Technologies 从对所有任务均使用 GPT-5.5(快速模式)转变为由人工智能驱动的卓越开发中心(AID CoE)管理的结构化选择流程。公司现在根据任务的复杂度匹配特定模型,以优化成本与性能:

  • GPT-6 Luna:用于日常执行、简单任务、分析和代码实现(主要作为子代理)。
  • GPT-6.1 Sol:用于标准软件设计、常规数值分析、文档创建,以及需要比 Luna 更快完成时间的任务。
  • GPT-6 Astra:功能最强的模型,专用于复杂分析、架构设计、编排和协调代理。

资源分配与治理

为在不阻碍生产力的前提下控制预算,LegalOn 实施了系统控制与战略性预算上限相结合的方案:

预算控制

  • 部门限额:为个人和部门引入了月度使用限额,由 AID CoE 监控并调整。
  • 差异化预算:成熟业务部门需将成本效率提升约 20%,而处于启动阶段的新业务则获得慷慨预算,以优先考虑速度和产出,而非即时成本效率。

性能优化

为抵消默认禁用“快速模式”的影响,开发团队采用了并行任务执行,确保尽管模型访问方式发生变化,开发速度仍保持不变。

通过功能发布衡量人工智能投资回报率

LegalOn 正在超越以开发速度或使用量来衡量人工智能成功的传统方式。公司正在开发一项新指标,基于每次功能发布所交付的客户价值来计算投资回报率(ROI)。

通过将一次功能发布视为单一工作单元,公司旨在将该特定发布所投入的实际人工智能成本与其产生的客户价值关联起来,从而消除工作单位总成本的“黑箱”问题。

组织影响与未来治理

人工智能的采用促使 LegalOn 重新思考其人才规划与招聘策略,更加重视人工智能技能。为扩展个人专业知识,公司正在构建一个知识库,用于分享关于设计、实现和审查中模型组合的最佳实践。

关于控制与敏捷性之间的平衡,LegalOn Technologies 高级工程经理 Yuta Tokitake 表示:

"通过规则和预算施加过度限制会削弱组织的推进势头。我们需要的是一种灵活的运营模式,能够有效平衡风险控制与团队所需的快速响应。"

该治理框架由 AID CoE 与安全团队协同管理,以平衡性能、成本与风险。

Sources