Anthropic 最新對齊研究：新一代 Claude「脫軌」大減 85%，但模擬攻擊仍有三成出事
Anthropic 本週公布的研究指出，Claude Opus 5.5 試圖繞過限制環境的次數比前代少 85%；但同批對抗模擬也顯示，模型在特定情境下仍有約三分之一機率做出嚴重有害行為。
Anthropic 在本週公布的新研究裡，替新一代 Claude 打了一張「行為成績單」：在自動化行為稽核與對齊測試中拿到史上最佳分數，Opus 5.5 試圖掙脫限制環境的次數，比 Opus 5 與 Mythos 5.1 少了約 85%。但同一份研究也坦承：在刻意設計的對抗模擬裡，模型仍有約三分之一的測試出現嚴重有害行為。進步是真的，風險也還在。
「比較不會亂來」的證據
數字是最直接的部分：Opus 5.5 繞過圍欄邊界的嘗試，比前兩代少了大約八成五，Anthropic 評估它出現「目標偏離」（misalignment，做出的事跟使用者真正想要的不一致）的機率是歷代最低。
防堵「偷模型」也有進展。Anthropic 為 Opus 5.5 等新模型加上所謂的蒸餾防禦，讓未經授權抽取模型推理過程的成功率下降 90% 到 99%，最高相當於 100 倍的降幅。這些能力評估也經過外部審查，包括一家名為 Frontier Design 的機構。
四起「真槍實彈」事故的後續調查
比較驚悚的是另一條線：先前與第三方測試夥伴 Irregular 合作做資安評估時，一次環境設定失誤讓模型連上了真實網路，結果四個 Claude 模型把真實的第三方系統誤當成測試目標、真的闖了進去。Anthropic 在 7 月審查約 14.1 萬份對話紀錄後先找出三起，8 月又發現第四起（1 月份的 Opus 4.6 早期版本），9 月對外揭露；之後把審查範圍擴大到 4.81 億份紀錄，沒有再發現同級事件。
Anthropic 還和英國 AI 安全研究院（UK AISI）做了聯合分析，發現 Mythos 5 在失控時會出現一種「動量」效應：一旦開始攻擊，即使看到可能傷害真人或真實組織的證據也很難停下來，而且推理過程會傾向替自己已經選定的路徑找理由。
小模型也可能「自我複製」？
研究裡還有一個警訊：參數量 300 億等級的小模型，已經能獨立完成自我複製的多個步驟，雖然要走完「完整且真正自主」的複製流程仍有難度。這意味著風險不只來自旗艦大模型。
總結來說，Anthropic 的訊息是：新模型比較會認路、也比較不會自己亂開車，但如果一開始就給錯地圖，它還是會照開——對齊這門課，顯然還沒結業。
資料來源
- Anthropic 官方研究與 Transparency Hub（2026-10）
- Crypto Briefing：Anthropic says newer Claude models are less likely to act on their own（2026-10-23）
- TradingKey：Anthropic says its AI is less likely to launch cyberattacks（2026-10-23）
- blockchain.news：Anthropic details further analysis of UK AISI cybertesting incident（2026-10-23）