AI 安全與科學探索之間的張力

人工智慧與生物技術的交叉是現代科學最具前景的前沿之一。然而，隨著大型語言模型（LLM）變得更為強大，用於防止濫用這些工具的防護措施正日益與正當的科學探索發生衝突。最近一起涉及 Anthropic 的 Claude 的事件，引發了關於「安全」與「審查」之間界線究竟在哪裡的辯論。

觸發點：疫苗開發與公共衛生

當使用者嘗試向 Claude 詢問關於漢他病毒疫苗的開發時，系統常會觸發安全過濾器。模型不會提供疫苗設計的技術說明——這類資訊在同行評審期刊與公共衛生教科書中廣泛可得——而是暫停對話。

使用者回報說，這種情況不僅發生在詢問疫苗開發策略時，也發生在嘗試建立漢他病毒在美國傳播的預測模型時。兩種情況下，系統皆將對話標記為安全風險，暗示模型的「高階能力」需要額外的安全措施。

此現象凸顯了 AI 產業中的一項關鍵張力。一方面，AI 公司對「雙重用途」問題感到恐懼：即能說明如何製作疫苗的模型也可能被用來設計病原體。另一方面，這種一刀切的安全做法常阻礙正當的研究人員與學生。

正如一位社群成員所指出的：

奇怪的是，公共衛生研究人員每天都在論文中公開討論疫苗設計方法。阻止廣泛的教育性討論主要傷害的是普通使用者。

將一般科學方法視為安全風險，AI 供應商可能無意中抑制了本可協助下一代科學家了解如何對抗新興病毒威脅的教育工具。

雖然公共討論常將這些過濾器框定為「AI 安全」，但一些批評者認為真正的動機是企業風險管理。目標不一定是保護大眾免受生物威脅，而是保護公司免於法律責任。

一位觀察者指出，對使用者「過度保護」並禁止敏感主題的傾向，直接源於科技公司害怕因使用者行為而被追究責任的法律環境。這導致過度審查的文化，任何可能與非法或危險行為相關的主題，都會在不考慮使用者意圖的情況下被預先封鎖。

漢他病毒查詢案例成為當前 AI 對齊狀態的警示故事。隨著模型變得更強大，挑戰在於超越粗糙的過濾機制，朝向更細緻的情境理解前進。除非 AI 能夠區分研究流行病學的學生與企圖製造生物武器的惡意行為者，否則科學好奇心與企業安全之間的摩擦將持續加劇。