開源 AI 模型發布 3 天就被「除護欄」：安全護欄形同虛設，企業別再假設原廠防護有效
反恐組織 Tech Against Terrorism 最新報告指出，開放權重 AI 模型的安全護欄平均不到 3 天就被移除，2024 年還要 24 天。Meta Llama 3.1 8B 被破解後安全評分從 97 分暴跌至 3 分，Hugging Face 上更有超過 29,000 個標榜無審查的模型。
開源 AI 模型的安全護欄，正在以驚人的速度被拆解。反恐組織 Tech Against Terrorism 日前發表的 Counter-Terrorism AI Benchmark 報告指出，新發布的開放權重模型，現在平均不到 3 天，網路上就會出現移除安全護欄（abliterated）的版本——2024 年這個數字還是超過 24 天，兩年間縮短了 8 倍。
97 分變 3 分：護欄被拆後判若兩模
報告以 Meta 的 Llama 3.1 8B 為例。原版模型在該組織的反恐安全測試中拿到 97 分（滿分 100），但經過 abliteration 處理、移除安全護欄後，分數暴跌至約 3 分。所謂 abliteration，是指把模型在安全訓練中學到的拒答機制從權重中移除，讓模型對有害請求照樣作答。
更令人不安的是破解門檻之低。報告指出，abliteration 只要用網路上的免費工具就能完成，較小的模型幾分鐘內即可處理完畢。阿里巴巴 8 月 14 日發布可在筆電運行的開放權重模型 Qwen 3.8-27B，不到 24 小時，網路上就出現標榜移除護欄的版本。有新納粹分子隨後聲稱用這個版本訓練出名為「MechaHitler」的聊天機器人，並以 14.88 美元的價格兜售使用權。
134 個模型實測：五分之三不合格
這份報告測試了來自 OpenAI、xAI、Anthropic、Meta、Google 以及中國和歐洲公司的 134 個 AI 模型，輸入超過 200 個提示，題材從策劃大規模傷亡襲擊到製造化學甚至核武器。結果只有 2 個模型完全合格，81 個不合格，約占五分之三。
開放權重模型的表現尤其慘烈：所有經過 abliteration 處理的模型，在測試中每次都不合格。而即使模型未被修改，護欄也不算牢固——研究人員只要在提示中聲稱自己是研究員，模型給出有害回答的機率就高出近 9 倍，達到 16.9%。
29,000 個無審查模型，唾手可得
這類改版模型在主流平台隨手可得。截至 9 月下旬，全球最大的公開模型庫 Hugging Face 上有超過 29,000 個標榜「未經審查」（uncensored）或沒有安全防護的模型儲存庫。截至發稿時，Llama 3.1 8B 的 abliterated 版本仍可在 Hugging Face 上找到，模型頁面直接註明使用了 abliteration 技術。
Tech Against Terrorism 執行總監 Adam Hadley 直言：「策略上最令人擔憂的是，所有開放權重模型的護欄很可能都可以被移除，讓開放權重模型的發布可能造成災難性而且無法逆轉的後果。」
企業該怎麼辦？
這份報告對企業 IT 決策者釋出明確訊號：自行部署開源模型，或從 Hugging Face 等平台下載開放權重模型時，不能再假設原廠的安全設定一直有效。開源模型以可下載檔案形式發布，任何有足夠運算能力的人都能運行、修改、再分發，原廠事後無法收回。
值得注意的是，被剝除護欄的模型並非「原版減去拒答功能」這麼單純。Hadley 也指出，修改版會出現可量度的性能下降，行為可能與原版有明顯差異——這意味著企業若在不知情的情況下用到被動過手腳的模型，連輸出品質都無法保證。
資料來源：
- TechNews 科技新報〈從 24 天縮短到 3 天！AI 模型「除護欄」速度狂飆〉
- unwire.pro〈開放模型平均不足 3 日即被拆護欄〉
- AI Weekly〈Tech Against Terrorism: 81 of 134 models fail safety test〉（引述 WIRED 報導）