性、AI、そして黙示録：合理主義サブカルチャーはいかにしてAIの安全性、政治、文化を形成したか

ヘッドラインの警告は現実であり、重要な意味を持っていた

Jacob Coxonは2026年9月8日にAnthropicを退職し、自身の株式を放棄した上で、AIを開発している人々はAIが10年以内に人類を滅ぼす可能性があると「真剣に」信じていると警告した。彼のメモは拡散され、議会公聴会を引き起こし、AI安全性コミュニティはその警告を煽るソーシャルネットワークと向き合うことを余儀なくされた。

合理主義、儀式、そして英雄的責任の上に築かれたサブカルチャー

結論： 合理主義運動は小さなインターネット上のシーンから、最先端のAI研究所に人材、資金、そして文化的結束力を提供する準宗教的なネットワークへと成長した。

この運動のルーツは、Eliezer Yudkowskyの2000年代初頭のブログと、バイアスを克服することを教えるエッセイ集であるSequencesにまで遡る。
2010年までに、Yudkowskyのファンフィクション『Harry Potter and the Methods of Rationality』（HPMOR）は、英雄的責任という教義を導入した。これは、個人が破滅を防ぐ能力を唯一持っているからこそ、それを防がなければならないという考え方である。
Raymond Arnoldによって組織されたSecular Solsticeのようなコミュニティ全体の儀式は、伝統的な宗教が提供するのと同じ仲間意識、典礼、ケアを提供するが、その中心的な物語はAIによる破滅である。
人口統計調査によると、メンバーは非常に同質的であり、圧倒的に男性が多く、自閉症スペクトラムの傾向を持つ者が多く、STEM分野で雇用されている割合が高い。これはシリコンバレーの研究所に自然に人材を供給するパイプラインとなっている。

ファンフィクションから資金提供へ：影響力のインフラ

結論： 合理主義シーンは文化的な生産物を、現在AI安全性研究を支える採用および資金調達のエンジンへと変貌させた。

2012年にJulia Galef、Andrew Critch、Michael Smith、Anna Salamonによって設立された**CFAR (Center for Applied Rationality)**は、Sequencesのテクニックをテック企業の従業員や才能ある若者に教える集中ワークショップを販売した。
Peter ThielとJaan Tallinnから資金提供を受けたLeverage Researchは、人間の認知を大規模に「デバッグ」しようと試みたが、後に心理的虐待の告発を受けることになった。
**効果的利他主義 (EA)**は2000年代後半に合理主義と融合した。長期主義は未来の生命を主要な道徳的単位として再定義し、AIによる絶滅を主要な課題とした。
Thiel、Tallinn、Open Philanthropy Project、さらにはSam Bankman-Fried（FTX経由）といった主要な寄付者は、AnthropicやOpenAIを含むAIリスク研究所に数千万ドルを注ぎ込んだ。

コミュニティの暗部：カルト的な力学と虐待

結論： いくつかの注目を集めた事件は、ネットワーク内におけるカリスマ的な権威、心理的強制、そして暴力的な結末のパターンを明らかにしている。

「合理主義コミュニティはメンバー自身の身元を保証するため、外部の人間が誠実さを評価することは困難である。」 – Zvi Mowshowitz、長年のコミュニティ参加者 (HNコメント)

「デバッグ」 – CFARのスタッフは、少なくとも3人の参加者が「非合理的」な思考を修正するという名目で、侵襲的な心理的介入を受けたことを認めた。
Leverage Research – 元参加者のZoe Curziは、組織が精神に対する優れた洞察力を持っていると主張したため、異論を唱えることが不可能になった環境について説明した。
The Zizians – トランスジェンダー女性のZiz LaSotaが率いる分派グループは、海上居住コロニーを形成したが、後に複数の殺人事件や2025年にバーモント州で発生した銃撃事件に関連付けられた。このグループのイデオロギーは、決定理論、分離脳心理学、そして英雄的責任を組み合わせたものだった。
性的経済 – 元セックスワーカーで合理主義者のインフルエンサーであるAellaは、AIリスクへの適合性を基準に参加者をスクリーニングする有料の「ギャングバン」イベントを企画し、性的アクセスがいかにしてゲートキーピングのメカニズムとなったかを示した。

政治への浸透：シンクタンクからホワイトハウスまで

結論： AIリスク研究所に資金を提供するのと同じネットワークが、米国の政治権力構造にも人材とアイデアを供給している。

Peter Thiel – 反動的な作家Curtis Yarvinに資金を提供し、監視企業（Palantir、Anduril）を支援し、AI規制を宗教的・政治的な脅威として位置づける「反キリスト」に関する私的な講義を行った。
JD Vance – Thielのベンチャー企業から1500万ドルを受け取り、Yarvinのアイデアを引用し、現在は上院司法委員会に所属してAI政策の立法に影響を与えている。
Michael Kratsios (元Thiel Capitalのプリンシパル) は、David SacksやMarc Andreessenと共に、大統領科学技術諮問委員会の共同議長に就任した。
最先端AIシステムの評価を任務とする非営利団体METRは、研究所スタッフとの個人的なつながりを明らかにしており、コミュニティの影響力をチェックするはずの監視メカニズムにおける利益相反の懸念を引き起こしている。

文脈の中のCoxonの辞任

結論： Coxonの公的な警告は信頼できるものだが、それが密接に絡み合ったソーシャルネットワークから生まれたものであるため、その影響力は増幅され（そして疑問視され）ている。

Coxonのメモは、2030年までにAIが人類を滅ぼす確率を10%以上と個人的に見積もっており、この見解は辞任から数時間以内にAnthropicのアライメント責任者であるEvan Hubingerによっても支持された。
急速な拡散（1日で1億回以上の閲覧）は、コミュニティ自身のバイラル性に関する専門知識（例：HPMORの「最終試験」のクラウドソーシングイベント）と、AI規制のアジェンダを推進したい寄付者によって煽られた。
批判者（Elon Muskを含む）はこのエピソードを「心理作戦」として退けたが、支持者（Zvi Mowshowitzなど）はCoxonの誠実さを擁護し、自己言及的な検証ループを示した。

これがAI安全性ガバナンスにとって意味すること

結論： 効果的な監視には、技術的な議論だけでなく、合理主義・EAネットワークの社会的および経済的な絡み合いを考慮する必要がある。

独立した評価 – 監視機関は、厳格な利益相反ルール、保護された内部告発者制度、および評価者が研究所と個人的なつながりを持つ場合に回避を強制する権限を必要とする。
資金の透明性 – Thiel、Tallinn、その他のエリート慈善家からの寄付パイプラインは、政策決定への隠れた影響を避けるために開示されるべきである。
文化的認識 – 規制当局は、コミュニティの儀式、採用パイプライン、および「英雄的責任」の精神が、メンバーに自己検閲や危険な行動を強いる可能性があることを認識しなければならない。
より広範なステークホルダーの包含 – AIリスクの議論には、集団思考を緩和し、多様な倫理的視点を確保するために、合理主義・EAのエコーチェンバーの外側の声を巻き込むべきである。

Hacker Newsでのコミュニティの反応

「AIについて考える枠組みは、非常に同質的な人々のグループによって実際に培われてきた。……人間が文化に囲まれているときにこの欠陥を持つことは避けられない。」 – throwaway13337 (HNコメント)

「奇妙なことが起きていると言っているわけではないが、この記事は連座による罪の押し付けをやりすぎている。」 – vinkelhake

「このテーマに関する報道としては、これまで見た中で最高のものだ。」 – epsteingpt

これらのコメントは、認識の分断を示している。ある者はこの記事を危険なエコーチェンバーを暴くものと見なし、別の者は過度な一般化であると非難している。

結論

Jacob Coxonの辞任はAIリスクに対する真の警鐘であったが、その影響の速さと規模は、隠されたインフラを明らかにしている。それは、準宗教的な儀式、エリートの採用、集中した資金提供を組み合わせてAI研究と政治権力の両方を形成する合理主義サブカルチャーである。信頼できるAI安全性ガバナンスの枠組みは、このネットワークの影響力と向き合い、独立した監視を強制し、現在議論を支配しているエコーチェンバーを超えて対話を広げなければならない。