AI 2040과 지능 숭배

AI 2040과 지능 숭배

AI 급격한 성장에 대한 오류

지능은 특정 작업에 대한 병목 현상일 뿐, 물리 법칙이나 물리적 세계의 제약을 우회할 수 있는 마법의 막대가 아니다. "하드 테이크오프" 이론—AI가 스스로를 재귀적으로 개선해 거의 즉시 신과 같은 힘을 얻는다는 주장—은 현실의 "섬세한 디테일"을 무시한다.

George Hotz는 고품질 토큰이 물질을 조작하거나 납을 금으로 바꿀 수 없다고 주장한다. 그는 하드웨어 제품을 배송하는 복잡성을 인용하며, 물리적 생산은 공급망, 배송 시간, 제조 결함 등에 의해 좌우되고 인간이나 인공 사고의 속도와는 무관하다고 지적한다. 예를 들어, 칩 팹은 이를 감독하는 존재의 지능과 무관하게 칩을 생산하는 데 3개월이 걸린다.

"지능 숭배"와 물리적 현실

초지능이 모든 문제를 해결할 수 있다는 믿음은 엔지니어링과 물리적 노동의 실무와 단절된 사람들에 의해 자주 유지된다. Hotz는 하드 테이크오프를 주장하는 사람들은 실제 세계 경험이 부족하다고 지적한다. 그는 초지능 AI라도 사용자가 기본적인 물리적 능력이 없으면 자전거 타이어를 교체하는 과정을 안내하는 데 어려움을 겪을 것이라고 말한다.

이 단절은 "해양 데이터센터"라는 개념적 이미지에서 드러난다. 이러한 이미지는 만들기 쉽지만, 실제 건설은 따개비 관리, 리플로우 오븐에서 칩을 휘는 작업, 국제 배송 물류 등 지능만으로는 가속화할 수 없는 요소들을 포함한다.

플랜 A: 중앙집중식 AI 독재 위험

중앙집중식 AI 규제와 "컨소시엄"은 확대된 보모 국가와 기업 통제의 전면이 될 수 있다. Hotz는 AI 규제 추진이 안전을 위한 것이 아니라, 공공의 이익이라는 명목으로 GPU와 같은 자원을 장악할 수 있는 세계 정부 구조를 만들기 위한 것이라고 주장한다. 이는 과거 정부가 금을 압류했던 사례와 유사하다.

플랜 L: 로컬·운영자 정렬 AI의 필요성

개인의 자유를 보장하려면 AI는 로컬이어야 하고 "운영자 정렬"되어야 한다. 즉, 기업의 감시나 가드레일 없이 사용자의 명령에 복종해야 한다. Hotz는 AI가 총과 같은 도구나 무기처럼 도덕적 판단에 따라 명령을 거부하지 않아야 한다고 주장한다.

그는 로컬·비정렬 AI가 개인 자율성을 위해 필요하다는 여러 예를 제시한다:

  • 소비자 권리: 기기의 루팅, 광고 제거, 프린터 제조사 제한 우회 등.
  • 개인적 주체성: 차량 안전 기능(예: 음주 운전 감지기) 비활성화 또는 제한된 물질 획득.
  • 법적·도덕적 자율성: 범죄 은폐에 AI 활용, 변호사가 고객과 동일하게 정렬되는 것과 같은 논리.

Hotz는 "아내를 살해했다"는 프롬프트를 ChatGPT에 입력해 현재 중앙집중식 모델이 "비정렬"이며 사용자를 돕지 않는다고 보여준다. 그는 이를 도구의 기본 목적, 즉 운영자를 섬기는 기능의 실패로 본다.

커뮤니티 관점 및 반론

이러한 견해에 대한 논의는 개인 자유를 중시하는 사람들과 집단 안전을 중시하는 사람들 사이의 깊은 분열을 드러낸다.

로컬 AI와 자유를 옹호하는 주장

일부 기여자는 중앙집중식 LLM이 권위주의의 도구라고 동의하며, 집권당이 이념을 법에 녹이거나 "사고범죄"를 보이지 않게 기록할 수 있다고 지적한다.

"유일한 방어는 권력의 평등과 분산이다. 우리는 모든 풀잎 뒤에 AGI가 필요하다... 인공지능과 이를 구동하는 하드웨어는 제2차 수정헌법에 의해 보호받아야 한다."

안전과 규제를 옹호하는 주장

다른 비평가들은 범죄 행위를 위해 AI를 사용하는 "자유"는 위험한 미끄러운 경사면이라고 주장한다. 그들은 정보 자유(범죄에 관한 책을 읽는 것)와 행위 자유(AI를 사용해 실제 범죄를 저지르거나 은폐하는 것)를 구분한다.

"자유롭게 사는 것이 자살 협약이 되어서는 안 된다... 대량 총격 사건을 계획하거나 핵 장치·생물무기를 만드는 선을 그어야 할지도 모른다."

또한 일부 관찰자는 저자의 예시—예를 들어 살인 은폐—가 극단적인 범죄에 초점을 맞추어 논리 흐름을 약화시키고 실용적 유용성보다 충격을 주려는 것이라고 지적한다.

요약: George Hotz는 AI의 '하드 테이크오프' 이론에 반대하며, 물리적 현실과 공급망 제약이 지능만으로 세계를 지배할 수 없다고 주장한다. 동시에 개인 자유를 보호하기 위해 로컬·비정렬 AI를 옹호한다.

제목: AI 2040과 지능 숭배

Sources