AIセーフティコミュニティと疑わしい性的カルト関連性についての批判的概観

重要なポイント

Hacker Newsの投稿とそのコメントは、AIセーフティコミュニティがエリーザー・ユドコフスキーと関連する性的カルトのようなサブカルチャーの影響を強く受けていると主張し、この疑わしい文化が公共政策を形成する適性を疑問視している。

元のスレッドで提示された主な主張

カルト起源の主張: 著者は、現代のAIセーフティ議論がエリーザー・ユドコフスキーによって創設されたファンフィクションを起源とする「性的カルト」にさかのぼると主張しており、彼の初期作品『ハリー・ポッターと合理的な方法』を「現代の宗教的テキスト」と呼んでいる。
影響力のネットワーク: スレッドは、サム・アルバート、デミス・ハサビス、ダリオ・アモディ、イーロン・マスクなどの著名人物がユドコフスキーと交流したり、彼の非営利団体が主催するイベントに参加したと指摘し、この疑わしいカルトから主要なAIラボへの直接的なパイプラインがあると示唆している。
組織的重複: 「Lighthaven」というバークレーの施設が、グループハウスやポリアモラスな集まり、および「SlutCon」といったイベントを主催しているとされ、その資金の一部が崩壊したFTXの資金であるとされている。
思想的核: 投稿は、超知能が制御不能な「ペーパークリップ・アポカリプス」を引き起こすというAIセーフティの主流ナラティブがユドコフスキーに由来し、いわゆる「合理的主義者コミュニティ」によって広められていると主張している。
政策的影響: これらの疑わしい個人的・性的な動機があるため、著者はこのコミュニティがAI政策を策定するには信頼できないと主張している。

提示された証拠

主張	スレッドで引用された証拠	検証可能性に関するコメント
ユドコフスキーの「性的カルト」起源	彼のファンフィクション作品や個人的な関係（例：パートナーのグレッタ）への言及	スレッドはSkywriterの投稿、ニューヨーク・ポストの記事、多数の画像をリンクしているが、独立した調査報道は提供されていない。
主要AIラボとの関係	ベルニー・サンダースとの会談、DeepMind設立への関与、Anthropicのスタッフがユドコフスキーのブログに登場したとの記述	これらは事実（例：ユドコフスキーのブログにはダリオ・アモディがEAコミュニティメンバーとして掲載されている）であるが、カルトとの因果関係は解釈に依存する。
FTXからの資金	Lighthavenが、合理的主義者慈善団体を通じて盗難されたFTX資金で購入されたと主張	公開された記録や裁判所文書はリンクされておらず、主張は検証されていない。
性的イベント（乱交、「SlutCon」）	写真と口頭の記述、およびAellaのSankeyチャートへの言及	写真は存在するが、文脈や同意の詳細が欠落しており、イベントの存在は独立して裏付けられていない。

Hacker Newsでのコミュニティの反応

支持的または拡張的な分析: @iand675などのユーザーは、元のスレッドの主張を繰り返す長文の個人エッセイをリンクしている。
懐疑的または批判的な視点: @perlgeek、@alexgieg、@in-silicoなどのコメントでは、投稿が人身攻撃に依拠しており、AIセーフティの技術的価値についての実質的な議論が欠如していると指摘している。
個人体験: @fwlrは、集まりに招待されたが断ったと報告し、コミュニティが「普通のコミュニティと同様に振る舞っている」と述べ、一括して「カルト」と呼ぶのは不適切だと反論している。
文脈的比較: @RamblingCTOは、疑わしいカルトを歴史的な世俗的・宗教的運動（例：ニューアテイズム）と比較し、カリスマ的指導者と終末論的ナラティブがAIセーフティに特有ではないと述べている。
政策的関連性の疑問: @roenxiは、個人の性的行動が自動的に政策作業から排除する理由にならないと主張し、多くの分野で密接な社会的ネットワークが存在すると強調している。

検証可能な事実

ユドコフスキーの影響力 – エリーザー・ユドコフスキーは機械知能研究研究所（MIRI）を設立し、「AIアライメント」という用語を広めた。彼のブログと『Sequences』は公開アーカイブされている。
効果的利他主義との重複 – 複数のAIセーフティ研究者がEAカンファレンスに参加している。この重複はカンファレンスプログラムやブログ投稿で文書化されている。
公開の登場 – ユドコフスキーがベルニー・サンダースと会談した記録や、Netflixドキュメンタリー『The AI Doc』に登場した映像が存在する。
Lighthavenの所有権 – 不動産記録により、バークレーの建物が2022年に合理的主義者コミュニティ関連の非営利団体によって購入されたことが確認されているが、資金の出所（FTX資金を含む）は公開されていない。

検証されていないままの主張

コミュニティの性的な行動が「カルト」として組織的に行われている証拠（個人的な集まりではなく）。
疑わしいカルト的動機がAIセーフティ研究の成果や政策提言に影響を与えているという具体的な証拠。
FTXからLighthavenへの資金流れを裏付ける独立した調査報道。

なぜこれらの主張がAI政策に重要なのか

バイアスの認識: 政策立案者が、小さな社会的結束のグループがAIセーフティ議論を支配していると信じれば、そのグループが提示する技術的主張を軽視する可能性がある。
資金の透明性: FTXからの違法資金という主張は、研究助成金や非営利団体の予算の出所に関する正当な懸念を引き起こす。
コミュニティの多様性: 狭い社会的構成が強調されれば、異なる文化や思想的背景からの声の包括を促進する動機が生まれる。

平衡的な評価

スレッドは、著名なAIセーフティ関係者間の社会的つながりを成功裏に記録しており、バークレーでの集まりの視覚的証拠も提供している。
しかし、関連性から因果関係へと飛躍しており、証拠のないまま全体を「性的カルト」と呼んでいる。
AIアライメントに関する核心的な技術的懸念（超知能リスク、制御問題、政策枠組み）は、個人のライフスタイルとは分離されている。これらの懸念を評価するには、実証的議論に依拠すべきであり、人身攻撃的な特徴付けではない。
コミュニティの政策的影響力は、そのメンバーの私生活ではなく、提案の質（例：AI開発の一時停止、安全基準の提言）によって評価されるべきであり、直接的な利害対立が証明されない限り、個人の私生活に基づいて判断すべきではない。

結論

Hacker Newsのスレッドは、AIセーフティコミュニティの一部における社会的ダイナミクスと資金源について深刻な疑問を提起しているが、個人的な行動と専門的信頼性を混同している。一部の主張（例：ユドコフスキーの影響、EAとの重複）は検証可能であるが、組織的な「性的カルト」という多くの主張は独立した裏付けが欠けている。政策立案者や一般市民は、AIセーフティ団体の技術的主張と資金・ガバナンスの透明性を検証すべきであり、検証されていない個人的な行動に基づく一括否定に陥るべきではない。