高盛限制非工程人员使用 AI 编程代理

高盛将 AI 编程代理的使用范围限制在工程团队

高盛已更新其内部政策，将第三方 AI 编程代理（特别是 Anthropic 的 Claude Code 和 Microsoft 的 GitHub）的使用限制在其工程团队内。虽然该银行此前曾鼓励非技术人员使用 AI 构建工具，但新的指导方针实际上取消了交易员和银行家使用这些工具的权限。这一转变是在对生产力、安全性和运营风险进行全公司范围的审查后做出的，不过该银行仍继续保留其内部 AI 助手供全公司更广泛地使用。

金融环境中的安全与合规风险

实施这一限制的主要驱动因素是在处理敏感客户、交易和专有金融数据的工作站上运行自主编程代理所固有的风险。与通常遵循既定代码审查、测试和部署协议的软件工程师不同，使用这些工具的非技术人员往往会绕过这些保障措施。

行业观察人士和内部利益相关者强调了几个关键问题：

• 运营完整性： 编程代理可以以与用户相同的权限执行程序。如果交易员使用代理来自动化市场监控或头寸建模，未经审查的脚本可能会无意中执行错误的交易或输入错误的订单。
• 信息壁垒： 金融机构在法律上被要求在各部门之间保持严格的信息壁垒。AI 代理在设计时可能并未考虑到这些监管约束，因此存在在内部孤岛之间泄露机密数据的风险。
• 缺乏监督： 存在一个重大风险，即由 AI 生成并由非工程师部署的代码可能无法被用户审计或理解。正如一位评论者所指出的：“你不能让半无人值守的代理在拥有客户/交易/专有信息访问权限的工作站上运行……一次小小的失误或提示词注入就可能导致重大泄露。”

从“氛围编程”到受控治理的转变

就在今年 7 月，包括首席信息官 Marco Argenti 在内的高盛领导层还公开赞扬非技术员工使用 AI 构建初步原型。这种“氛围编程”（vibe coding）方法允许员工在无需等待工程资源的情况下解决眼前的问题。然而，从实验性原型到生产级工具的过渡带来了重大的治理挑战。

此前开放访问政策的批评者指出，缺乏严格的监督导致“数以千计的 Claude artifacts”在没有必要合规检查的情况下执行关键业务功能。该银行决定收回权限，表明其意识到未经管理的 AI 生成代码所带来的风险（从监管不合规到潜在的经济损失）超过了非技术人员获得的即时生产力提升。

行业背景与未来展望

高盛的这一限制凸显了金融行业在 AI 采用方面存在的更广泛的紧张关系。虽然像 Barclays 这样的机构正在扩大 AI 代理的使用以优化工程工作流程，但其他机构正在收紧控制以降低责任风险。

• 成本与效率： 除了安全之外，一些组织由于 AI 代理的基于 token 的计费模式而面临巨大的成本压力。
• 监管压力： 金融公司在数据隐私和自动化流程的可审计性方面面临严格审查。正如一位行业参与者所指出的：“高薪团队使用 AI 不准确地执行了任务……由此产生的错误可能会导致决策者面临牢狱之灾。”

高盛仍然是 Anthropic 即将进行的 IPO 的主承销商，这强调了该限制是一项局部性的运营决策，而非对该技术本身的否定。该银行继续与 Anthropic 合作开发安全的后台 AI 代理，这些代理由专业工程团队管理和部署，这标志着向更集中、更受控的 AI 集成模式迈进。