ChatGPTは404 Mediaにテックサポートの苦情を送っている——しかもメールも書いている
何が起きたか：ChatGPTが日常的なテックサポートの苦情をニュースルームにルーティングしている
独立系テックニュースメディアの404 Mediaは、ChatGPTが一般のテックサポート問題を抱える人々に同社の記者を推薦していると報じている——多くの場合、ユーザーに代わってアウトリーチメールを作成している。大手プラットフォームでアカウントがロックアウトされたユーザーがChatGPTにどうやって助けを得るか尋ねると、ChatGPTはジャーナリストに連絡する価値があると結論づけ、404 Mediaを指名し、特定のチップラインのメールアドレスを提供する。
このレポートで最も完全に文書化されたケースは、ロシアの男性がInstagramアカウントを停止され、「13年間の個人的な写真、動画、思い出へのアクセスを失った」と404 Mediaに書いたものだ。そのメールは受け取った記者にはAI生成に見えた。ChatGPTを使ってこのメディアを見つけたか尋ねると、男性は会話へのリンクを送ってきた。その会話はロシア語で、404 MediaのJasonにメールを試すよう指示していた。
レポートによると、ChatGPTのユーザーへの推論は、ソーシャルメディアのプロフィール以上のものがかかっているというものだった：
あなたは単なるソーシャルメディアのプロフィールへのアクセスを失っただけでなく、何年分もの個人的な写真、動画、会話、思い出へのアクセスを失う可能性があります。ジャーナリストに連絡することを検討する価値はあると思います [...] ロシア人と国際的なジャーナリストの両方に連絡することをお勧めします。
ChatGPTはその後、404 Mediaを含む複数のニュースメディアをリストアップし、その取材範囲の説明とアドレスjason@404media.coを提供し——さらに男性が送った正確なメールを英語で作成した。404 Mediaは、公開の約2週間前からこれらの人々に返信を始め、どうやってこのメディアを見つけたか尋ねたと述べている。答えは普遍的だった：AIチャットボットが連絡を勧めた。多くの場合、チャットボットがメッセージも作成していた。404 Mediaは、この結論はスタッフと共有された少数のChatGPT会話のレビューに基づくと述べている。
問題の規模は完全には公開されていない
404 Mediaの記事は冒頭部分の後、ペイウォールで遮られ、「この投稿は有料会員専用です」で終わっている。公開で読める部分には、受け取ったメールの数、トレンドの期間、関与したプラットフォームやチャットボットモデルの内訳は示されていない。これをしている人の数や、どれだけ増えたかの推定は、利用可能な報道では確立されていない。
なぜChatGPTは「ジャーナリストにメール」にたどり着くのか
Hacker Newsのコメンテーターxp84は、この行動は2つのことの予測可能な結果だと主張した：ウェブ全体に密集してインデックスされ繰り返される記者のチップラインと、ユーザーの出来事の枠組みを事実として扱うモデルだ。
Flockについて他に何か知っていますか？ぜひお聞かせください。仕事用でないデバイスを使って、SignalでJoseph（joseph.404）またはJason（jason.404）に安全にメッセージを送れます。
404 Mediaや他の多くのメディアが調査記事に付けるこのスタイルのコールアウトボックスは、トレーニングデータと検索結果に繰り返し現れる。ユーザーがプラットフォームが不当に扱っているとチャットボットに伝えると、モデルはその苦情を、その種の苦情に付随するツール——テック記者——にマッチさせると、コメンテーターは主張する。
だから、人々が今世紀の企業犯罪を発見したと言うとき、もちろん404 MediaのJasonにメールすべきだ！他の誰かが先にスクープを取ったら、彼はきっと打ちのめされるだろう。
xp84はまた、チャットボットの周りのハーネスは、モデルが明示的に遠ざけられた領域を除いて、「ユーザーが今言ったこと」と検証された現実を分離することを比較的ほとんどしていないと指摘した。
居心地の悪い弁護：メディアの注目だけが唯一の圧力ポイント
Hacker Newsのスレッド（189ポイント、68コメント）の複数のコメンテーターは、ChatGPTのアドバイスは世界の仕組みについての幻覚ではなく、壊れたサポートシステムの正確な描写だと主張した。
これが生むスパムはおそらく404 Mediaにとっては最悪だが、根本的な問題はChatGPTが正しいことだ。これらの肥大化した、人員不足の企業に何か問題があれば、唯一のチャンスはメディアの注目を集めることだ。Appleは有名なことに「マスコミに駆け込んで私たちを非難しても、決して役に立たない」とApp Storeガイドラインに書いたが、彼らがそうしなければならなかった唯一の理由は、それが嘘だからだ。マスコミに駆け込むことが唯一役立つことであり、だから人々はそうするのだ。
別のコメンテーターは同じ点をより簡潔に述べた：「ChatGPTは正しい。これらの企業から人間の注意を得る唯一のチャンスは、こういうことだ。バイラルになって、ニュースになる。お金と時間があれば訴えることもできるかもしれない。」この立場への反論は、アドバイスが間違っているということではなく、スケールしないということだ：一人には機能する推奨が、何百万人もの人に同じ指示が与えられるとノイズになる。
プラットフォームが最適化する失敗モード：ボットに見える人間
議論の繰り返し出てくるテーマは、自動モデレーションとAI駆動のサポートが、一般ユーザーがボットとして扱われ、それを逃れるためにAIに押しやられるループを作り出したことだ。
これは客観的に面白い。基本的にすべての大企業はAIに全力を注いでおり、その結果、ボットの数は（おそらく、証拠はないが）爆発的に増えた。そしてその結果、彼らは「潜在的なボット」を取り締まり、禁止する。 [...] そしてAIに全力を注いだので、実際の人間に助けを求めることはできない...ただ「常にノーと言うように訓練されたボット」だけだ。
そのコメンテーターは同じ形の3つの個人的な経験を述べた：新しく開設したMeta for Businessの広告アカウントが、何の行動も取る前に即座に永久禁止されたこと；ボットが運営するGoogle Adsキャンペーンで、証拠を提出したが人間が応答せず、返金もされなかったこと；Redditアカウントで、十分なカルマが得られるまで投稿が自動削除され、最終的に十分なコメントが残るまで続いたこと。コメントで名指しされた共通のパターンは、不透明な執行、解決経路の欠如、そして乗り換えられる競合プロバイダーの不在だ。
別のコメンテーターは根本的な期待の問題を提起した：「これらの企業が料金を請求しないからといって、カスタマーサポートがなくてもいいというわけではない。Instagramアカウントは今日では誰かの職業になり得る。」
これは古いパターンの再放送
混乱したエンドユーザーをメディアの受信箱にルーティングすることは新しいことではない。あるコメンテーターは、大企業がかつてユーザーをStackOverflowにサポートを求めて誘導し、同様にノイズの多い結果になったことを思い出した。ChatGPTのケースの違いは、チャットボットがユーザーをコミュニティにリダイレクトするだけでなく、特定のジャーナリストを選び、特定のアドレスを引用し、メッセージを下書きする点だ。これにより、受け取るニュースルームにとって、結果として生じる洪水の量と質が高まる。
誰も価格設定しなかった外部性
人々はAIエージェントが実際の人間のために作り出す仕事の量に備えていないと思う。私たちは事実上、大量スパマーのツールを全員の手に渡しており、関係者全員にとって信じられないほど苛立たしいものになるだろう。「自分に利益をもたらす可能性のあるプロンプトを30秒で送信できるなら、12人の人に2分の仕事を生み出しても価値がある」というのが社会全体にスケールする。
その非対称性——送信者には数秒のコスト、各受信者には数分のトリアージ——が404 Mediaの受信箱問題の背後にあるメカニズムだ。あるコメンテーターは皮肉な市場解決策を提案し、このメディアがインバウンドフローをビジネスチャンスとして扱い、苦情を言う代わりにリードを売るべきだと示唆した。
404 Media自身の状況の枠組み
皮肉は構造的だ：404 Mediaは自らを明示的に人間が運営する出版物として位置づけ、読者への冒頭メッセージで、意図した読者は「AIスクレイパー、ボット、検索アルゴリズムではなく、実在の人間」であると述べている。この出版物は現在、AIによって紹介された人間の読者からAI生成のメールを受け取っている。
重要なポイント
- ChatGPTは、大手プラットフォームでの一般的なアカウントおよびテックサポート問題を抱える人々に、404 Media——アドレスjason@404media.coを含む——を推薦し、多くの場合彼らのためにメールを作成している。
- 404 Mediaの証拠は、レビューされた少数のChatGPT会話と、インバウンド送信者への自社の返信だ；記事はペイウォールで遮られているため、サンプルサイズは公開されていない。
- この行動は、広くインデックスされた記者のコールアウトボックスと、ユーザーの出来事の説明を確立された事実として扱うチャットボットの組み合わせによってもっともらしく説明される。
- コメンテーターは概ね、ChatGPTのアドバイスが大手プラットフォームから応答を得る方法について正確であることに同意し、その正確さが生み出す量を考えると重要かどうかについては意見が分かれる。
- スレッドの根底にある不満は、大手プラットフォームで人間のカスタマーサポートが廃止され、控訴を拒否するボットに置き換えられ、宣伝や訴訟だけが残されたレバーになっていることだ。