南韓強制要求線上社群進行 AI 圖像審查

南韓強制要求對線上圖像進行 AI 掃描

南韓的線上社群現在被要求使用 AI 審查工具掃描每一張上傳的圖像。這項指令主要是為了應對深偽色情（deepfake pornography）的猖獗傳播以及個人圖像的濫用，包括像「Nth Room」案件這樣的高知名度事件，這些事件造成了要求加強數位防護措施的重大公眾與政治壓力。

這些 AI 工具的實施具有期限緊迫以及依賴專有本地生態系統的特點，批評者認為這扼殺了技術創新。

許多南韓論壇平台依賴本地的內容管理系統（CMS）。由於政府相關專案通常強制要求使用這些特定的系統，開發人員經常被鎖定在專有生態系統中。這使得 AI 審查功能的整合取決於特定的供應商模組，而非開源或全球性的替代方案。

技術觀察家對這些指令的硬體與軟體需求提出了疑慮。具體的批評包括：

過時的軟體： 報告指出，相關指南建議使用 Ubuntu 18.04，這是一個在 2023 年已達到標準支援終止（End of Standard Support）的版本。
硬體擴展性： 人們對單一 GPU 伺服器（例如使用 Quadro GPU 的伺服器）是否能處理高流量論壇的即時流量需求提出了質疑。
對 CUDA 的依賴： 對 NVIDIA 的 CUDA 平台的要求，進一步將實施過程與特定的硬體供應商綁定。

轉向自動化大規模執法反映了南韓在治理與社會和諧方面的廣泛做法，儘管有些人將其視為向監視邁進的一步。

有人認為，南韓比起分散、高強度的執法，更偏好自動化執法，這是一種植根於優先考慮集體和諧而非西方個人主義價值的文化設計選擇。從這個角度來看，這種權衡——類似於廣泛使用 CCTV 和超速攝影機——被視為維持社會秩序的一種功能性機制。

批評者指出，目前的政治環境使得嚴苛的監視法案得以在幾乎沒有有效反對的情況下通過。人們擔心這些工具可能會被用來限制藝術表達，或被操縱來封鎖政治批評。

這項指令被一些人視為南韓 IT 部門內更大問題的一個徵兆，這種環境被描述為由寡頭壟斷和政府合約主導。

"這套結構本身就使供應商鎖定、技術能力薄弱以及表面上的合規而非真正的創新陷入循環。"

觀察家指出，依賴政府強制要求的軟體、糟糕的 API 文件，以及缺乏對新創企業強大的風險投資環境，共同導致了一個技術景觀，其動態性往往不如其全球對手。