골드만삭스, 비엔지니어링 직원의 AI 코딩 에이전트 사용 제한

골드만삭스, AI 코딩 에이전트 사용을 엔지니어링 팀으로 제한

골드만삭스는 내부 정책을 업데이트하여 Anthropic의 Claude Code 및 Microsoft의 GitHub와 같은 타사 AI 코딩 에이전트 사용을 엔지니어링 팀으로 제한했습니다. 이전에는 비기술직 직원들이 AI를 사용하여 도구를 구축하도록 장려했으나, 새로운 지침에 따라 트레이더와 뱅커들은 이러한 기능을 사용할 수 없게 되었습니다. 이러한 변화는 생산성, 보안 및 운영 위험에 대한 전사적 검토에 따른 것이지만, 은행은 여전히 전사적으로 더 넓게 사용할 수 있는 자체 내부 AI 어시스턴트를 유지하고 있습니다.

금융 환경에서의 보안 및 규정 준수 위험

이러한 제한의 주된 이유는 민감한 고객, 거래 및 독점 금융 데이터를 처리하는 워크스테이션에서 자율 코딩 에이전트를 실행할 때 발생하는 내재적 위험 때문입니다. 일반적으로 코드 검토, 테스트 및 배포에 대한 확립된 프로토콜을 따르는 소프트웨어 엔지니어와 달리, 이러한 도구를 사용하는 비기술직 직원은 종종 이러한 안전장치를 우회합니다.

업계 관찰자와 내부 이해관계자들은 다음과 같은 몇 가지 중요한 우려 사항을 강조했습니다:

• 운영 무결성: 코딩 에이전트는 사용자와 동일한 권한으로 프로그램을 실행할 수 있습니다. 트레이더가 시장 모니터링이나 포지션 모델링을 자동화하기 위해 에이전트를 사용하는 경우, 검토되지 않은 스크립트가 의도치 않게 잘못된 거래를 실행하거나 잘못된 주문을 입력할 수 있습니다.
• 정보 장벽: 금융 기관은 부서 간에 엄격한 정보 장벽을 유지해야 할 법적 의무가 있습니다. 이러한 규제 제약을 고려하지 않고 설계되었을 수 있는 AI 에이전트는 내부 사일로 간에 기밀 데이터가 유출될 위험이 있습니다.
• 감독 부족: AI가 생성하고 비엔지니어가 배포한 코드를 사용자가 감사하거나 이해할 수 없다는 상당한 위험이 있습니다. 한 논평자가 지적했듯이, "고객/거래/독점 정보에 접근할 수 있는 동일한 워크스테이션에서 반자동 에이전트를 실행하게 해서는 안 됩니다... 작은 실수나 프롬프트 주입 한 번으로도 대규모 유출이 발생할 수 있습니다."

"바이브 코딩(Vibe Coding)"에서 통제된 거버넌스로의 전환

지난 7월까지만 해도 CIO Marco Argenti를 포함한 골드만삭스 경영진은 비기술직 직원이 AI를 사용하여 초기 프로토타입을 구축하는 것을 공개적으로 칭찬했습니다. 이러한 "바이브 코딩" 접근 방식은 직원들이 엔지니어링 자원을 기다리지 않고 즉각적인 문제를 해결할 수 있게 해주었습니다. 그러나 실험적인 프로토타입에서 프로덕션 수준의 도구로 전환하는 과정에서 상당한 거버넌스 문제가 발생했습니다.

이전의 개방형 액세스 정책에 대한 비판자들은 엄격한 감독의 부재로 인해 필요한 규정 준수 확인 없이 중요한 비즈니스 기능을 수행하는 "수천 개의 Claude 아티팩트"가 생성되었다고 지적합니다. 은행의 이러한 결정은 규정 미준수부터 잠재적 재무 손실에 이르기까지 관리되지 않는 AI 생성 코드의 위험이 비기술직 직원의 즉각적인 생산성 향상보다 크다는 것을 깨달았음을 시사합니다.

업계 상황 및 향후 전망

골드만삭스의 이번 제한 조치는 AI 도입과 관련하여 금융 부문 내에 존재하는 더 넓은 긴장감을 보여줍니다. Barclays와 같은 일부 기관은 엔지니어링 워크플로우를 최적화하기 위해 AI 에이전트 사용을 확대하고 있는 반면, 다른 기관들은 책임을 완화하기 위해 통제를 강화하고 있습니다.

• 비용 및 효율성: 보안 외에도 일부 조직은 AI 에이전트의 토큰 기반 과금 모델로 인해 상당한 비용 압박을 겪고 있습니다.
• 규제 압박: 금융 기업들은 데이터 개인정보 보호 및 자동화된 프로세스의 감사 가능성과 관련하여 강도 높은 조사를 받고 있습니다. 한 업계 관계자는 "고액 연봉을 받는 팀이 AI를 사용하여 작업을 부정확하게 수행했으며, 그 결과 발생한 오류는 의사 결정권자들에게 징역형을 초래할 수도 있었습니다"라고 언급했습니다.

골드만삭스는 여전히 Anthropic의 다가오는 IPO를 위한 주요 주관사로 남아 있으며, 이는 이번 제한이 기술 자체에 대한 거부가 아니라 국지적인 운영상의 결정임을 강조합니다. 은행은 전문 엔지니어링 팀이 관리하고 배포하는 안전한 백오피스 AI 에이전트를 개발하기 위해 Anthropic과 계속 협력하고 있으며, 이는 AI 통합을 위한 보다 중앙 집중화되고 통제된 모델로의 이동을 의미합니다.