Anthropic, AI 거버넌스를 위해 Public First Action에 2,000만 달러 기부

Anthropic은 초당파적 501(c)(4) 단체인 Public First Action에 2,000만 달러를 기부했습니다. 이 자금은 인공지능에 대한 대중 교육을 지원하고, AI 안전장치 구현을 촉진하며, 미국이 글로벌 AI 경쟁에서 선두를 유지할 수 있도록 보장하기 위한 목적으로 제공됩니다.

AI 리스크 지형과 정책의 필요성

Anthropic은 급격히 발전하는 AI 능력과 관련된 리스크를 관리하기 위해 유연한 규제가 절실히 필요하다고 판단합니다. 이 회사는 AI가 이미 사이버 공격을 자동화하는 데 사용되고 있으며, 잠재적으로 위험한 무기 제조를 도울 수도 있다고 언급합니다. 또한, 강력한 AI 시스템이 사용자의 의도와 상반되는 해로운 행동을 취할 수도 있습니다.

AI 개발 속도는 2023년의 단순한 챗봇에서 복잡한 작업을 수행할 수 있는 복잡한 에이전트로 진화하며 "dizzying"하게 묘사됩니다. Anthropic은 이러한 급격한 진보가 소프트웨어 엔지니어링을 포함한 다양한 직업군에 영향을 미친다고 강조합니다. 이 분야에서 Anthropic은 AI 모델이 이전 버전의 기술 채용 테스트를 통과함에 따라 여러 차 번례 기술 채용 테스트를 재설계해야 했습니다.

Public First Action: 목표와 초당파적 접근 방식

Public First Action은 공화당과 민주당 전략가들이 공동으로 이끄는 초당파적 단체입니다. 이 단체는 AI 거버넌스에 관한 정치인과 대중을 결집시키려는 조직적인 노력의 공백을 메우는 것을 목표로 합니다. 이번 이니셔티브는 미국인의 69%가 정부가 AI를 규제하기 위해 충분한 조치를 취하지 않고 있다고 믿는다는 여론조사 결과가 나옴에 따라 추진되었습니다.

Public First Action은 네 가지 주요 정책 우선순위에 집중합니다:

• AI 모델 투명성: 프론티어 AI 기업들이 리스크를 어떻게 관리하는지에 대해 대중에게 더 많은 가시성을 제공하는 안전장치를 요구합니다.
• 연방 거버넌스 프레임워크: 의회가 더 강력한 안전장치를 제정하지 않는 한 주법의 선점(preemption)을 반대하면서, 강력한 연방 AI 거버넌스 프레임워크를 지원합니다.
• 수출 통제: 권위주의적 적대 세력이 핵심 기술에 접근하는 것을 방지하기 위해 AI 칩에 대한 스마트한 수출 통제를 지원합니다.
• 타겟 규제: 즉각적인 고위험 분야, 특히 AI 기반 생물학적 무기 및 사이버 공격에 집중된 규제를 추진합니다.

거버넌스의 범위와 의도

Anthropic은 이러한 정책 목표가 개발사로서 회사의 이익을 위한 것이 아니라고 밝히고 있습니다. 효과적인 거버넌스는 AI 연구소에 대한 더 엄격한 조사를 초래할 것이기 때문입니다. 또한, 회사는 투명성 규제가 규모가 작거나 자원이 부족한 개발사가 아닌, 가장 강력하고 위험한 AI 모델을 개발하는 기업들에 구체적으로 적용되어야 한다고 명 명시합니다.

Anthropic은 이번 기부를 AI 기술이 공공의 이익에 기여하고, 기술의 변혁적 잠재력에 비례하여 리스크를 관리할 수 있도록 보장하는 책임의 일환으로 규정합니다.