被垃圾內容致死：當 AI 幻覺寫下你的訃聞

網路一直是謠言快速傳播的場所，但現代 AI 的速度與自信卻帶來了一種全新、超現實的錯資訊。Cliff Stoll——《The Cuckoo's Egg》這部開創性駭客紀實的作者，同時也是 Klein bottle 公司的經營者——最近發現自己處於一個奇特的境地：必須向人們說明他其實仍然活著。

這個情況發生在 Stoll 開始收到關心他的人的電子郵件，詢問他去世後他的事業是否仍在營運。來源是什麼？一篇在 Facebook 上流傳的 AI 生成的《The Cuckoo's Egg》書評。該書評不僅提供了常見的合成讚美，還自信地宣稱 Stoll 已於 2024 年 5 月去世。

「AI 垃圾內容」的崛起

Stoll 的經驗是所謂「AI 垃圾內容」的典型範例——低品質、AI 生成的內容，旨在淹沒社群媒體資訊流，以培養帳號並獲取追隨者。正如 Hacker News 社群成員所指出的，這類垃圾訊息的入門門檻極低。

「只要不到一分鐘，就能請 LLM 寫一篇關於有趣事物的社群貼文，然後上傳... 我看到的帳號似乎都在使用廉價模型，錯誤頻出且會幻覺出事實。」

有一種玩世不恭的理論認為，這些幻覺不僅是錯誤，而是特性。有些人認為，虛構事實所提供的「額外調味」讓貼文更具吸引力，提升了尚未學會辨識合成內容特徵的使用者分享的可能性。

「表現幻覺」

除了 LLM 的技術失敗外，此事件凸顯了資訊產出方式更深層的哲學轉變。有些人認為 AI 是由把一切都以「表現」而非「正確性」為視角的人所開發。在此框架下，目標是打造一個令人信服的敘事或引人入勝的內容，無論其背後的事實是否真實。

這種「表現幻覺」表現為自信的謊言。AI 並不「知道」自己在說謊；它只是預測在看似書評的序列中最有可能出現的下一個詞彙。當該序列包含虛構的死亡日期時，AI 會以與已驗證事實相同的權威性呈現它。

錯誤的回饋循環

或許此趨勢最令人擔憂的面向是錯資訊的遞迴循環。如果 AI 模型以從網路抓取的資料進行訓練，而網路上越來越充斥著包含幻覺的 AI 生成「垃圾內容」，模型可能會開始將這些捏造視為真實基礎。

這會導致一種現象：幻覺在不同平台上被反覆傳播，以致於在後續的 AI 模型與毫無防備的人類眼中成為「已驗證」的事實。正如一位觀察者所指出的，這可能導致未來的網路被視為「虛構與謊言的藝術作品」的集合。

數位足跡的諷刺

在此案例中蘊含深刻的諷刺。Cliff Stoll 因在《The Cuckoo's Egg》中以電腦日誌追蹤真實入侵者的細緻、以人為本的努力而聞名。如今，他卻被一個合成實體「追蹤」並定義，該實體創造出指向虛構墓地的數位足跡。

Stoll 在處理此事時以馬克·吐溫的語氣點出——死亡報導「略有誇大」——此事件成為一個嚴峻的警示。在 AI 無所不在的時代，驗證的負擔已完全轉移至消費者。當 AI 能在使用者尚未察覺前「把人除名」時，唯一剩下的真相來源就是直接的人類確認：「我還沒死。」