數位信任的侵蝕：AI Slop 如何扼殺線上社群

現在的網際網路充斥著一種被稱為「AI slop」的現象——為了追求參與度、虛榮心或利潤，而將低努力程度、由 AI 生成的內容強加於社群之上的行為。就像孩子從幼兒園帶回來的蠟筆畫一樣，這些作品大多只是有趣的個人里程碑，但不屬於全球網際網路的公共牆面。

雖然代理式編碼（agentic coding）和大型語言模型（LLMs）的力量不容置疑，但無差別地分享其原始輸出正在造成信號與雜訊的危機。當撰寫部落格文章、建立 GitHub repository 或編寫技術教學的門檻降至接近於零時，這些產出物的價值也會隨之暴跌。其結果是，一個數位環境正被大量合成的平庸內容所窒息，導致有機的人類互動逐漸枯竭。

AI Slop 的解剖

AI slop 的定義不在於使用了什麼工具，而是在於輸出背後的意圖與努力程度。在「使用 AI 進行開發」（building with AI）與「由 AI 進行開發」（building by AI）之間存在著關鍵的區別。

使用 AI 開發 vs. 由 AI 開發

使用 AI 開發涉及將模型作為一個更大型、由人類主導的流程中的精密工具。這需要思考、指示、檢查與精煉。一個經過數月深思熟慮的設計，並利用 AI 來加速構思良好的架構之實作，仍然是一項有價值的貢獻。

相反地，由 AI 開發則是輸入一個 prompt 並按下回車鍵，然後將即時輸出視為成品。無論是一個作者實際上並未使用的「vibe-coded」應用程式，還是一個讀起來像 Claude 生成的摘要的部落格文章，這都是 slop。這僅僅是過程的展現，而非價值的貢獻。

胡說八道的非對稱性

AI slop 最具破壞性的面向之一是所謂的 Brandolini's Law：

"The amount of energy needed to refute bullshit is an order of magnitude bigger than that needed to produce it."

當使用者在未經審慎處理的情況下，將一個複雜的、由 AI 生成的 pull request 丟進開源專案時，他們並不是在「幫助」；他們是在將品質控管的認知負荷轉嫁給維護者。對於社群而言，如果一份貢獻所需的清理能量比從頭開始撰寫還要多，那麼這份貢獻通常還不如不要。

對社群的腐蝕作用

線上社群是建立在信任與共同品味標準之上的脆弱生態系統。AI slop 就像纏繞植物（bindweed），緩慢地扼殺這些空間中的有機生命。

信號的消亡

隨著社群被合成內容污染，真正的「信號」——深刻的見解、生活經驗與嚴謹的技術辯論——變得越來越難以尋找。這會造成一種惡性循環：受挫的成員會瀏覽著 slop，發現毫無價值，最終選擇退出。這使得空間變得更容易被機器人與參與度農夫（engagement farmers）佔據，最終可能導致一種反烏托邦的狀態，即 AI agent 僅僅是在彼此之間「交談」，而沒有任何人類存在。

信任的侵蝕

除了雜訊之外，還有更深層的心理影響。當在 Hacker News 或 Reddit 上無法分辨回覆者是人類還是 LLM 時，每一次互動的基準信任度都會侵蝕。這種「合成參與」催化了高信任環境中的弱點，使其容易受到普遍的宣傳與低努力程度的 astroturfing。

戰線上的觀察

來自社群管理員與長期使用者的見解，凸顯了這場鬥爭的嚴重性：

  • 管理負擔： 一些小眾的創意社群已完全禁止 AI 內容，但代價很高。一位管理員指出，每月禁止數百個 AI 帳號的掙扎，並將其描述為一種「額外成本」與「一場敗戰」。
  • 人類的 Slop 反駁論點： 有人認為「人類的 slop」——陳腐的陳腔濫調與重複的套路——在 AI 出現之前就已存在。然而，規模是關鍵的差異點。AI 讓平庸的工業化成為可能。
  • 向現實生活（IRL）轉移： 有一種日益增長的觀點認為，數位世界的「slop 化」可能會迫使現實生活社群的復興。隨著數位互動變得不再可信，面對面互動與經過驗證的人類存在之價值會隨之提升。

如何在不增加 Slop 的情況下進行貢獻

為了防止數位公地的崩潰，貢獻者在分享之前應應用更高的「工作證明」（proof of work）標準：

  1. 自問：這有貢獻嗎？ 如果輸出僅僅是任何人都可執行的 prompt 的結果，那它只是一種好奇心，而非貢獻。

  2. 觀察環境： 在發文前，先透過潛水觀察並理解社群的氛圍（vibe），實踐「網路禮儀」（netiquette）。

  3. 保持透明： 對於在創作過程中是否、如何以及在哪裡使用了 AI，應保持開放與透明。

  4. 驗證實用性： 如果是軟體，它是否可用？是否有文件說明？你是否準備好為其負責並處理問題，還是這只是與 LLM 的「一夜情」？

結論

LLMs 與代理式編碼工具是現代開發者工具箱中的強大補充。然而，大規模生成內容的能力，必須與克制分享的自律性相平衡。網際網路是建立在分享奇特的腳本與充滿熱情的想法之上，但它能生存，靠的是人類連結的品質。為了拯救我們的線上社群，我們必須停止將 prompt 按鈕當作發布按鈕。

Sources