AI 급증에 대한 정책에 관한 다리오 아모데이
AI 진보와 정책 사이의 불일치
AI 역량은 입법 및 정치 과정의 속도를 훨씬 초과하는 지수적 속도로 발전하고 있습니다. 정치 기관은 권력 남용을 방지하기 위해 의도적으로 천천히 움직이지만, AI는 기본적인 코딩 지원에서 주요 AI 기업들의 대부분 코드를 4년 안에 작성하는 수준으로 발전했습니다. 이러한 시간 규모의 불일치는 정책 입안자들이 대응하기 전에 AI가 소비자 도구에서 전 세계적 영향을 미치는 전략적 자산으로 진화할 수 있는 위험한 격차를 만들고 있습니다.
투명성에서 구속력 있는 규제로의 전환
AI 위험의 구체적 형태를 이전에 예측하기 어려웠기 때문에 초기 정책 노력은 투명성과 공개에 초점을 맞추었습니다. 그러나 Claude Mythos Preview와 같은 모델의 등장으로 최첨단 모델이 이제 사이버 보안, 핵심 인프라 및 국가 안보에 실질적인 위험을 초래한다는 것이 입증되었습니다.
이러한 위험을 해결하기 위해 AI 규제는 연방 항공청(FAA)과 유사한 모델로 전환해야 하며, 강력한 기술은 배포 전에 엄격한 기술 테스트와 감사를 받아야 합니다.
제안된 규제 프레임워크
아모데이는 다음과 같은 요구사항을 갖춘 구속력 있는 규제 시스템을 제안합니다:
- Mandatory Third-Party Testing: 특정 연산량 임계치를 초과하는 모델은 사이버 보안, 생물학적 무기, AI 통제 상실, 그리고 이러한 위험을 가속화할 수 있는 자동화된 연구개발 등 네 가지 핵심 영역에서 위험 감사를 받아야 합니다.
- Government Intervention Power: 정부는 제3자 평가에 기반해 수용할 수 없는 위험을 제시하는 모델의 배포를 차단하거나 억제할 권한을 가져야 합니다.
- Security Standards: AI 개발자는 모델 가중치를 보호하고 정기적인 레드팀 및 침투 테스트를 수행하기 위해 엄격한 보안 표준을 구현해야 합니다.
- Incident Reporting: 네 가지 핵심 위험 영역에서의 안전 사고를 신속히 보고하는 것이 의무입니다.
거시경제 혼란 및 노동에 대한 대응
강력한 AI는 경제 성장과 노동 수요를 분리시켜 초고성장과 초불평등이 동시에 발생하는 시나리오를 만들 수 있습니다. AI가 인간의 인지 능력을 일반적으로 대체할 수 있기 때문에 전통적인 시장 메커니즘으로는 해결할 수 없는 지속적인 일자리 대체가 발생할 수 있습니다.
노동 안정성을 위한 정책 개입
AI에 의한 일자리 대체의 사회적 영향을 완화하기 위해 다음 조치를 권고합니다:
- Enhanced Measurement: 정부는 AI에 의한 일자리 손실을 실시간으로 정확히 추적할 수 있도록 경제 통계를 확대해야 합니다.
- Pro-Employment Incentives: 임금 보험(낮은 급여 직무로 이동하는 근로자를 보상), 고용주를 위한 유지 세제 혜택, 그리고 인력 교육 보조금 등을 시행합니다.
- Long-Term Support: 노동 수요가 영구적으로 감소할 경우, AI 기업에 대한 세금이나 증대된 양도소득세로 자금을 조달하는 보편적 기본소득(UBI)이나 보편적 자본 계정과 같은 메커니즘이 필요할 수 있습니다.
AI의 긍정적 과학적 영향 가속화
AI 자체는 더 엄격한 안전 규제가 필요하지만, AI가 가속화하는 하위 분야인 생물의학 및 재료 과학 등은 규제 시스템이 너무 느려 고통받을 수 있습니다. 현재 7~8년 걸리는 약물 승인 파이프라인은 느린 혁신 속도에 맞춰 설계되었으며, AI가 생성한 후보가 폭증하면 병목 현상이 발생할 수 있습니다.
규제가 생명을 구하는 진전을 늦추지 않도록 FDA와 EMA와 같은 기관은 느린 물리 실험 대신 AI 기반 시뮬레이션을 수용하는 기준을 개발해야 합니다. 여기에는 다음이 포함됩니다:
- AI 기반 약동학 및 약물동태(PD/PK) 모델링.
- 임상 시험에서 합성 대조군을 활용해 참여자 요구량을 감소시킴.
- AI 기반 독성 예측을 통해 동물 실험을 감소시킴.
시민 자유와 민주 권력 보호
AI는 자율 시스템을 이용해 민주적 감시를 우회할 수 있는 행위자에 의해 "갑작스러운 권력 장악" 위험을 도입합니다. AI가 독재의 궁극적 도구가 되는 것을 방지하기 위해 구체적인 법적 보호가 필요합니다:
- Autonomous Weapons Accountability: 완전 자율 무기는 헌법 및 사법 감시(예: 사법적 "오프 스위치")에 대응하도록 설계되어야 합니다.
- Domestic Ban: 국내 영토 및 법 집행에서 완전 자율 무기의 사용을 금지하는 법적 조치를 시행합니다.
- Privacy Loophole Closure: 정부가 대량 개인 데이터를 구매해 대규모 AI 분석에 활용할 수 있게 하는 "데이터 브로커 구멍"을 폐쇄합니다.
- Equitable AI Access: 정부의 불리한 조치를 받는 시민도 정부가 사용하는 AI 도구와 동등하거나 그 이상 수준의 AI 도구에 접근할 수 있도록 보장합니다.
지정학적 전략: 민주 AI 연합
AI는 군사 및 경제력의 지배적인 원천으로, 핵무기의 영향에 비견되거나 이를 초과한다고 여겨집니다. AI에서 상당한 선두를 차지한 국가는 전략, 연구개발, 정보 분야에서 압도적인 이점을 가질 수 있습니다.
리더십을 유지하기 위해 민주주의 국가들은 전 세계 연합을 구성해야 합니다:
- Control the Supply Chain: 회원 간에 칩 및 반도체 제조 장비(SME)의 공유를 조정하고, 적에게는 이를 차단합니다.
- Harmonize Standards: 생물학적 및 사이버 위험에 대한 국제 안전 기준을 조정해 산업 부담을 줄이고 효율성을 높입니다.
- Mutual Defense: AI 기반 사이버 방어와 AI 주도 정보 공유를 공동으로 생산합니다.
비판적 관점 및 반론
이러한 제안에 대한 논의는 정책 동기와 실제 효과에 대한 상당한 회의감을 강조합니다:
- Regulatory Capture: 비평가들은 FAA식 사전 승인 및 의무 감시가 진입 장벽을 크게 높여 기존 기업을 보호하고 새로운 AI 스타트업이 등장하기 어렵게 만든다고 주장합니다.
- The Open-Weight Debate: "모델 가중치를 보호하는 강력한 보안 표준" 요구가 일부에 의해 오픈-웨이트 모델을 불법화하려는 시도로 해석되어, 소수 기업에 권력이 집중될 수 있다고 봅니다.
- Economic Realism: 일부 관찰자들은 포스트 노동 세계에서 "의미와 목적"에 초점을 맞추는 것이 부유층의 현실과 동떨어진 관점이며, 대부분의 사람들은 생존을 위해 일한다는 점을 지적합니다.
- Consistency Concerns: 비평가들은 AI 모델에 대한 더 엄격한 규제를 주장하면서 동시에 AI 기반 약물에 대한 FDA 규제 완화를 요구하는 모순을 지적합니다.