性、AI、そして終末：合理的主義者サブカルチャーがAI安全、政治、そして論争をどのように形作ったか

ヘッドライン警告とその直後の波紋

Jacob Coxonは2026年9月8日にAnthropicを退職し、AIを構築している人々が「今世紀末までに人類全滅の可能性がある」と真剣に信じていると公に述べた。彼の退職声明は瞬く間に拡散（1日で1億回以上再生）され、政治家やElon Musk、主流メディアによって拡声された。数時間のうちに、Anthropicのアライメント責任者であるEvan Hubingerは、同研究所の内部推定値として、10年以内に人類絶滅の確率が10％以上であることを確認した。

警告を生み出す合理的主義者サブカルチャー

最も声の大きいAI終末論者たちは、25年間のインターネットサブカルチャーである合理的主義者コミュニティに属している。2000年代初頭のフォーラム、LessWrongを起源とし、以下の核心的なアイデアを中心に成長した。

英雄的責任 – リスクを理解している個人は、災害を防ぐために行動しなければならない。
シーケンス – 偏見を克服するエッセイのカリキュラムで、より明確な思考を約束する。
儀式と象徴 – 年1回の「世俗的冬至（Secular Solstice）」（終末を祝う儀式）や、ハリー・ポッターと合理的な方法（HPMOR）のようなファンフィクションが、コミュニティの世界観を内包している。

これらの文化的技術はメンバーを結束させ、帰属意識を提供し、『合理的主義者』というステータスが優れた判断力の証とされる階層構造を生み出す。

主な人物とその影響

人物	役割	主な貢献
Eliezer Yudkowsky	シングルラティティ・インスティテュート（現MIRI）の創設者、HPMORの著者	AI絶滅リスクを広めた；「英雄的責任」の物語を創出した。
Scott Alexander	ブロガー（Slate Star Codex）および合理的主義の解釈者	合理的主義的思考を広範なテック層に届けた；AIリスクを主流のシリコンバレーと結びつけた。
Curtis Yarvin（Mencius Moldbug）	新反動主義者ライター	反民主主義的な「パッチワーク」概念を導入し、後に一部の合理的主義者に共鳴した。
Raymond Arnold	世俗的冬至の主催者	コミュニティの主要儀式を構築し、AI終末を宗教的な出来事として描いた。
Peter Thiel	10億ドル資産の投資家、慈善家	MIRI、YarvinのTlon、反民主主義プロジェクトを支援；AI規制者を標的にしたリークされた「反キリスト」講演を実施した。
Jaan Tallinn	慈善家	MIRI、未来の人間のための研究所、EAイニシアチブを資金提供；長期主義的資金提供をAIリスクと結びつけた。
Aella	性労働者から研究者へ転身、AI終末論コンテンツ制作	Grimesと共同で「Plz Don’t Kill Us」滞在プログラムを運営；性的ネットワークがAI安全圏と交差している様子を示している。

ファンフィクションから組織的行動へ

HPMOR（122章、66万1千語）は、多くの将来のAI研究者の入り口となった。そのクライマックスである「最終試験」チャレンジは、期限内にパズルを解くために何千人もの読者を動員し、コミュニティが複雑なタスクをクラウドソーシングできる能力を示した。また、著者のノートはCenter for Applied Rationality（CFAR）を宣伝し、シーケンスを対面ワークショップに変換した。

機関への波及：AI研究所、慈善活動、政策

MIRIと未来の人間のための研究所（Bostrom）は、合理的主義者の懸念を学術的調査に変換し、多数の寄付金（Open Philanthropy、Thiel財団など）を引き寄せた。
**効果的利他主義（EA）*は長期主義*を通じて合理的主義と融合した：未来の人間の福祉は現在の人間の福祉を上回るため、AI絶滅は資金提供の最優先課題となった。
CFARはテック企業（Facebook、Thiel支援スタートアップ）および才能ある青少年に「デバッグ」ワークショップを販売し、個人開発と企業採用の境界を曖昧にした。
Leverage ResearchとBlack Lotusは「心の理解」を試みたが、心理的虐待やカルト的な支配の accusationsを受けた。
Zizi LaSotaと彼女の信奉者（「Zizians」）はコミュニティの教義を暴力的行動に変換し、複数の殺人事件と2025年のバーモントでの高調な銃撃戦を引き起こした。

政治への浸透

合理的主義者–EAパイプラインは資金とアイデアを米国政治に流し込んだ：

Sam Bankman‑Fried（FTX）はEAの産物であり、2025年の有罪判決前に違法な利益をAnthropicとAIリスク助成に流した。
Peter Thielは反民主主義キャンペーン、Gawker訴訟、AI規制を宗教的抑圧と描く「反キリスト」講演を資金提供した。
JD Vance（米国上院議員）はThielのベンチャーファームから1500万ドルを受領し、Yarvinの反官僚主義的アイデアを政策スピーチで引用した。
Michael Kratsios（元OSTP長官）とDavid Sacks（科学技術評議会共同議長）はThiel関係者として任命され、ネットワークが連邦科学政策にまで及んでいることを示している。

監視における利益相反

前線AIシステムを評価する非営利団体METRは、2026年のリスク報告書で、スタッフが研究所の従業員と親密な個人的関係を持っていることを明らかにした。これにより、その独立性に疑問が呈された。同じ小さな個人集団（元同僚、同居人、配偶者）がしばしば評価者と評価対象の両方を務め、外部の責任追及を弱体化させている。

コミュニティの批判と自己反省

CFARは2019年にBrent Dillに対する虐待告発の取り扱いを誤ったとして公式に謝罪し、組織が判断の専門性を持ちながらも被害者を保護できなかったことを認めた。
元メンバーは定期的に「脱退スレッド」を投稿し、心理的ダメージ、強制的な関係、そして職業的・恋愛的・住宅的つながりが複雑に絡み合うネットワークから抜け出す困難さを語っている。
元記事のコメント欄では、グループシンキング、関係者による罪の帰属、そして主張者の個人的特徴ではなくAIリスクそのものに基づいて評価する必要性が指摘された。

Coxonの退職が重要な理由

Coxonの退職は以下の2つの事実を示した：

警告の信頼性 – たとえAnthropic自身のアライメント責任者も、研究所の高リスク推定を確認しており、主要AI企業内部でも脅威が真剣に受け止められていることを示唆している。
調整の認識 – 愛国者（Elon Muskを含む）は、拡散が意図的な心理戦（psy-op）であると主張し、コミュニティの濃密な資金ネットワークとコミュニケーションネットワークを、可能なかつ意図的な調整の証拠として挙げた。

両方の解釈が妥当なのは、合理的主義者シーンが極めて複雑に絡み合った社会的グラフであり、同じ人々が互いのプロジェクトを資金提供し、助言し、宣伝しているからである。

より広い教訓

合理的主義者コミュニティは、ニッチなサブカルチャーが強力な認識的エリートに進化し、技術、慈善活動、公共政策を形作る可能性を示している。その強み（厳密な推論、クラウドソーシングによる問題解決、長期主義的動機）は、以下の点によって相殺される：

「合理的主義者」というステータスが「優れた判断力」と等価であるとされる資格主義。
（儀式、英雄的責任、心理的デバッグなど）カルト的なダイナミクスが反対意見を抑圧し、虐待を可能にする。
影響力の集中が監視機関に利益相反を生み出す。

AI安全に関する主張を評価し、規制枠組みを設計し、AI終末論の台頭を支配する声の正当性を評価するためには、このネットワークを理解することが不可欠である。

上記の分析は、公開されている報道および著者の独自の引用に基づいている。誤りや漏れは著者のメールアドレスに報告可能である。*