앤트로픽, 캘리포니아 뉴섬 주지사의 AI 작업그룹 초안 보고서에 답변

요약

앤트로픽은 뉴섬 주지사의 AI 작업그룹 초안 보고서가 객관적 기준과 투명성의 중요성을 강조한 점을 칭찬하며, 이미 책임 있는 규모 확장 정책, 공개된 안전 공지, 제3자 테스트를 통해 보고서의 많은 권고사항을 이행하고 있음을 강조했습니다. 또한 이러한 관행을 전 산업에 보급하기 위해 가벼운 정부 개입을 촉구했습니다.

작업그룹의 주요 초점과의 일치

앤트로픽은 객관적이고 증거 기반의 기준이 선도적 AI 거버넌스에 필수적이라고 동의합니다. 특히 보고서가 투명성을 낮은 비용, 높은 효과적인 도구로 강조한 점에 찬성합니다. 이는 다음과 같은 목적을 달성할 수 있습니다:

• 새로운 AI 기술에 대한 증거 기반을 확장합니다.
• 소비자 신뢰를 구축합니다.
• AI 기업 간의 긍정적 합의 경쟁을 촉진합니다.

앤트로픽은 작업그룹이 연구소들이 모델 도용 방지 조치와 국가안보 리스크 테스트를 공개할 것을 촉구한 점을 환영했습니다.

보고서 권고사항을 반영한 앤트로픽의 기존 실천 사례

• 책임 있는 규모 확장 정책 – 앤트로픽이 오용 및 자율성 리스크를 평가하는 방식을 공개적으로 설명하며, 안전 및 보안 조치를 강화할 기준을 정의합니다.
• 안전 및 보안 테스트 공지 – 각 주요 모델 출시 시 테스트 결과를 공개합니다.
• 제3자 테스트 – 내부 평가를 보완하기 위해 외부 감사가 수행되며, 앤트로픽의 제3자 테스트 발표문에서 설명된 바와 같습니다.

이러한 실천 사례는 선도적 연구소들이 투명한 안전 및 보안 프로토콜을 채택해야 한다는 보고서의 권고사항과 부합합니다.

가벼운 정부 개입을 위한 촉구

앤트로픽은 현재 선도적 AI 기업들이 안전 및 보안 정책을 공개할 의무가 없으며, 다음과 같은 사항도 수행하지 않아야 한다고 지적합니다:

1. 안전 및 보안 정책을 공개한다.
2. 정책 내용을 공개적으로 설명한다.
3. 시행하는 테스트를 문서화한다.

이 연구소는 소규모의 가벼운 규제가 혁신을 억제하지 않으면서도 이러한 격차를 메울 수 있다고 주장합니다. 최근 백악관에 제출한 정책 제안서에서 앤트로픽은 강력한 AI 시스템이 2026년 말까지 등장할 수 있다고 경고하며, 투명한 정책 체계를 조기에 수립할 필요성을 강조했습니다.

경제적 영향에 대한 초점과 향후 기여

작업그룹은 AI의 경제적 영향에 대한 심층적 연구의 필요성을 강조했습니다. 앤트로픽은 이를 반영해 AI 기반 경제 변화를 추적하기 위한 경제 지수(Economic Index) 개발을 추진하고 있습니다. 연구소는 작업그룹의 보고서 완성에 기여하기 위해 지속적으로 피드백을 제공할 계획입니다.

결론

앤트로픽은 뉴섬 주지사가 AI 작업그룹을 출범시킨 노력을 칭찬하며, 캘리포니아의 선도적 모델 안전성 접근 방식에 협력할 것을 약속합니다. 동시에, 가벼운 규제를 통해 산업 전반에 투명한 안전 및 보안 관행을 확산할 것을 촉구합니다.