AI 軍備競賽於網路安全：當駭客使用 LLM 來發現零日漏洞

Google 最近報告稱，犯罪駭客利用 AI 模型發現並武器化了一個重大軟體漏洞。雖然此消息在網路安全社群中掀起波瀾，但也在開發者與安全研究人員之間激起了激烈的辯論，討論 AI 對現代軟體「攻擊面」的實際影響。

多年間，發現「零日」漏洞——即軟體供應商未知的弱點——一直是高度熟練的研究人員或擁有龐大資源的國家支援行動者的領域。大型語言模型（LLMs）的出現有可能透過降低發現複雜軟體缺陷的門檻，改變這一範式。

漏洞利用經濟的轉變

傳統上，發現關鍵缺陷需要深入手動分析組合語言程式碼或使用專門的模糊測試工具。然而，隨著 LLMs 在分析程式碼與建議模式方面變得更為強大，駭客的經濟模型正發生變化。

社群的一個關鍵見解是，攻擊者的「失敗成本」極低。如使用者 @gman2093 所指出，攻擊者只需一次成功，即可獲得巨大的回報，這使得 LLM 本身的「幻覺」或不準確性相較於成功入侵的龐大收益，僅是微不足道的障礙。

此外，這些知識的民主化令人擔憂。過去幾十年，高階安全知識受到教育與經驗的門檻限制。現在，僅透過一個提示即可取得這些知識。這帶來一個令人警醒的可能性：若任何持有 API 金鑰的人都能取得破解工具，「公共」軟體的時代可能會根本受到破壞。

懷疑與「AI 敘事」

儘管警訊四起，許多技術觀察者仍對這些說法的框架持懷疑態度。討論中反覆出現的主題是 Google 如何取得「高度信心」認為 AI 參與此特定攻擊的透明度不足。缺乏對攻擊者聊天紀錄或被扣押硬體的存取，批評者認為將漏洞發現歸因於 AI 常屬推測。

同時也有人懷疑「危險 AI」的敘事被用於企業或政治利益。多位評論者指出，透過強調 AI 驅動攻擊的危險，企業可能在爭取：

• 限制性立法： 推動政府在模型發布前進行審核。
• 封閉生態系統： 為將高能力模型限制於「可信合作夥伴」或政府機構（如 Anthropic 的 Mythos 模型）提供正當性。
• 身份驗證： 以安全為藉口，要求使用生物辨識或政府身分證件才能存取 LLM。

「安全將成為限制開放權重與本地 LLM 複雜度的楔子，就如同過去被用來妖魔化與限制密碼朋克技術一般，」使用者 @sowbug 警告。

防禦性的反論點

如果「壞人 AI」能發現缺陷，那麼合乎邏輯的問題是「好人 AI」能否更快修補它們。AI 驅動防禦的潛力相當可觀：千億級公司可以部署 LLM 來掃描整個程式碼庫，尋找駭客使用的相同模式，從而在先前無法達成的規模上自動化修補流程。

然而，這並非沒有挑戰。部分研究者認為 AI 產生的程式碼往往「盲目」於整體系統行為，可能只找出瑣碎錯誤而忽略系統性架構缺陷。此外，發現的速度可能超過部署的速度，尤其是像 Debian 這樣的社群驅動專案，其修補週期可能比 AI 生成的漏洞利用速度更慢。

結論：一枚滴答作響的定時炸彈？

許多從業者的共識是，AI 在駭客行為中的使用並非「新聞」——它是必然。正如駭客從打字機轉向電腦，從手動分析轉向模糊測試，他們將使用所有可得的工具。

真正的故事不是 AI 被使用，而是我們軟體的基礎安全模型日益脆弱。隨著 AI 持續降低漏洞發現的門檻，產業可能被迫拋棄「環境授權」模式，轉向更為堅固、零信任的架構，以在攻擊者工具箱無限可擴的時代中生存。