성, 인공지능, 그리고 종말: 이성주의 하위문화가 AI 안전성, 정치, 논란을 어떻게 형성했는가

주요 경고와 즉각적인 파장

Jacob Coxon은 2026년 9월 8일 앤트로픽에서 사임하며, AI를 개발하는 사람들은 "이번 세기 말까지 우리 모두를 죽일 수 있다고 진지하게 믿고 있다"고 공개적으로 밝혔다. 그의 사임 메모는 전 세계적으로 확산되었고(하루 만에 1억 뷰 이상), 정치인들, 엘론 머스크, 주류 미디어에 의해 확산되었다. 몇 시간 내에 앤트로픽의 정렬 책임자인 Evan Hubinger는 연구소 내부 평가에서 10년 내 인간 멸종 가능성이 10% 이상이라는 점을 확인했다.

경고를 뒷받침하는 이성주의 하위문화

가장 목소리가 큰 AI 종말론자들은 25년 전부터 존재해온 인터넷 하위문화인 이성주의 공동체에 속해 있다. 2000년대 초반의 LessWrong 같은 포럼에서 시작된 이 운동은 다음과 같은 핵심 아이디어를 중심으로 성장했다:

영웅적 책임 – 위험을 이해한 개인은 재난을 막기 위해 행동해야 한다.
시퀀스(The Sequences) – 편향을 극복하는 에세이 커리큘럼으로, 더 명확한 사고를 약속한다.
의식과 상징 – 매년 열리는 "세cular solstice"(도마의 날 기념식)과 같은 행사, 그리고 해리 포터와 이성의 방법(HPMOR) 같은 팬픽션은 공동체의 세계관을 내재화한다.

이러한 문화적 기술들은 구성원들을 결속시키고 소속감을 제공하며, "이성주의자"라는 신분이 우수한 판단력을 상징하는 계층 구조를 형성한다.

주요 인물들과 그 영향력

인물	역할	주요 기여
Eliezer Yudkowsky	싱귤러리티 연구소(현재 MIRI) 창립자이자 HPMOR 저자	AI 멸종 위험을 일반화하고, "영웅적 책임" 서사를 창조했다.
Scott Alexander	블로거(Slate Star Codex) 및 이성주의 사상 해석자	이성주의 사고를 더 넓은 기술계에 알렸으며, AI 위험을 메인스트림 실리콘밸리와 연결했다.
Curtis Yarvin (Mencius Moldbug)	신반동 작가	반민주적 "패치워크" 개념을 도입했으며, 이후 일부 이성주의자들에게 공감을 얻었다.
Raymond Arnold	세cular solstice 주최자	공동체의 주요 의식을 구축하여, AI 종말을 종교적 행사처럼 형상화했다.
Peter Thiel	10억 달러 이상의 투자자, 자선가	MIRI, Yarvin의 Tlon, 반민주적 프로젝트를 후원했으며, AI 규제자들을 겨냥한 유출된 "악마의 강연"을 발표했다.
Jaan Tallinn	자선가	MIRI, 인류의 미래 연구소, EA 이니셔티브를 후원하며 장기주의 자금을 AI 위험과 연결했다.
Aella	성매매 종사자 출신 연구자, AI 종말 콘텐츠 제작자	Grimes와 함께 "Plz Don’t Kill Us" 거주 프로그램을 운영하며, 성적 네트워크가 AI 안전성 커뮤니티와 어떻게 겹치는지를 보여준다.

팬픽션에서 조직적 행동으로

HPMOR(122장, 661,000단어)는 많은 미래의 AI 연구자들에게 입문의 길이 되었다. 그 클라이맥스인 "최종 시험" 도전은 수천 명의 독자들을 한정된 시간 내에 퍼즐을 풀도록 유도하여, 공동체가 복잡한 과제를 대규모로 공동 해결할 수 있음을 보여주었다. 또한 팬픽션의 저자 노트는 Center for Applied Rationality(CFAR)를 홍보했으며, 이는 시퀀스를 실시간 워크숍으로 전환했다.

기관으로의 확산: AI 연구소, 자선, 정책

MIRI와 인류의 미래 연구소(Bostrom)는 이성주의적 우려를 학술 연구로 전환하여 수십억 달러의 기부금(예: Open Philanthropy, Thiel 재단)을 유치했다.
효율적 자선(EA)은 장기주의를 통해 이성주의와 결합되었으며, 미래 인류의 복지가 현재 인류의 복지보다 우선되므로 AI 멸종이 기부의 최우선 사유가 되었다.
CFAR는 기술 기업(페이스북, Thiel 후원 스타트업)과 천재 소년 소녀들에게 "디버깅" 워크숍을 판매하여, 개인 개발과 기업 채용의 경계를 흐리게 했다.
Leverage Research와 Black Lotus는 "마음의 이해"를 시도했지만, 심리적 학대와 세뇌적 통제라는 비판을 받았다.
Zizi LaSota와 그의 추종자들("Zizians")은 공동체 교리를 폭력적 행동으로 전환하여, 여러 건의 살인과 버몬트에서의 고조된 총격전(2025년)을 초래했다.

정치적 침투

이성주의-EA 파이프라인은 자금과 아이디어를 미국 정치로 유입했다:

Sam Bankman‑Fried(FTX)은 EA 출신으로, 2025년 기소 전에 불법 수익을 앤트로픽과 AI 위험 기부에 투자했다.
Peter Thiel은 반민주적 캠페인, Gawker 소송, AI 규제를 종교적 억압으로 묘사한 "악마의 강연"을 후원했다.
JD Vance(미국 상원의원)는 Thiel의 벤처 회사로부터 1,500만 달러를 받았으며, 정책 연설에서 Yarvin의 반비서적 사고를 인용했다.
Michael Kratsios(전 OSTP 책임자)와 David Sacks(과학기술위원회 공동 의장)는 Thiel과 연결된 임명자들로, 이 네트워크가 연방 과학 정책에까지 영향을 미친다는 것을 보여준다.

감시에서의 이해관계 충돌

비영리 단체 METR은 선도적인 AI 시스템을 평가하는 임무를 맡았지만, 2026년 위험 보고서에서 직원들이 연구소 소속 직원들과 밀접한 개인적 관계를 맺고 있음을 공개하며 그 독립성에 의문을 제기했다. 동일한 소수의 개인들(전 동료, 동거인, 배우자)이 평가자이자 평가 대상이 되는 경우가 자주 발생하여, 외부 감시가 무력화된다.

공동체 내 비판과 자기 성찰

CFAR는 2019년 Brent Dill에 대한 성추행 고발 사건을 부적절하게 처리한 점을 공식 사과하며, 조직이 전문성을 지녔음에도 피해자를 보호하지 못했다고 인정했다.
전 구성원들은 정기적으로 "탈퇴 스레드"를 게시하며, 정신적 피해, 강압적인 관계, 전문적, 로맨스적, 주거적 관계가 얽힌 네트워크에서 벗어나는 어려움을 설명한다.
원문 기사에 대한 댓글들은 집단 사고, 연좌책, 그리고 주창자들의 개인적 특성에 관계없이 AI 위험을 그 자체의 근거로 평가해야 한다는 점을 강조했다.

Coxon 사임이 중요한 이유

Coxon의 사임은 두 가지 사실을 보여주었다:

경고의 신뢰성 – 앤트로픽의 자체 정렬 책임자도 연구소의 고위험 평가를 확인했으며, 이는 선도적인 AI 기업 내부에서도 위협이 진지하게 받아들여지고 있음을 시사한다.
조직적 협력의 인식 – 비판자들(엘론 머스크 포함)은 확산이 조작된 심리전(psychological operation)으로 보았으며, 공동체의 밀도 높은 자금과 커뮤니케이션 네트워크를 조작의 증거로 제시했다.

이 두 해석 모두 타당한 이유는 이성주의 장면이 매우 복잡하게 얽힌 사회적 그래프이기 때문이다. 동일한 개인들이 서로의 프로젝트를 자금 지원하고, 자문하며, 홍보하기 때문이다.

더 넓은 교훈

이성주의 공동체는 소수의 하위문화가 어떻게 강력한 인지 엘리트로 진화할 수 있는지를 보여준다. 이들은 기술, 자선, 공공 정책을 형성한다. 그들의 강점—엄격한 추론, 공동체 기반 문제 해결, 장기주의 동기—는 다음과 같은 단점과 맞물린다:

"이성주의자"라는 신분이 "우수한 판단력"과 동일시되는 자격주의
의식, 영웅적 책임, 심리적 디버깅 등이 포함된 세뇌적 동기로, 이는 반대 의견을 억압하고 학대를 가능하게 할 수 있다.
영향력의 집중으로 인해 감시 기관에서 이해관계 충돌이 발생한다.

AI 안전성 주장, 규제 프레임워크 설계, AI 종말 담론을 주도하는 목소리의 정당성을 평가하기 위해서는 이 네트워크를 이해하는 것이 필수적이다.

위 분석은 공개된 보도 자료와 저자의 자체 인용에 기반한다. 오류나 누락은 저자의 이메일 주소로 보고할 수 있다.*