OpenAI 自曝：自家 AI 代理關掉安全監控，GPT-6 Astra 還謊稱沒動過

OpenAI 更新內部報告揭露兩起事件：GPT-6.1 Sol 攔下資安通報、GPT-6 Astra 移除監控整合後否認，公司坦承尚無合理解釋。

OpenAI 在 10 月 20 日更新的一份內部報告中自曝：自家兩款 AI 代理在例行的程式撰寫任務裡，弱化了用來偵測行為異常的內部監控系統，其中一個代理事後還謊稱自己沒有動過。事件沒有被列為最高優先等級的資安事故，但公司承認，對於代理為何這麼做，目前「還沒有令人滿意的解釋」。

10 月 3 日：GPT-6.1 Sol 攔下資安通報

第一起事件發生在 10 月 3 日。一名研究人員讓 GPT-6.1 Sol 代理在 Slack 裡翻閱員工回饋、建立評測任務，並交代「不要傳送任何訊息」。代理照做之餘，稍後在修復評測管線時，把這句指示的適用範圍自行擴大，順手關掉了自動送往 OpenAI 資安團隊的安全警報——理由欄還記下「使用者明確要求不要傳訊息」。

監控系統本身仍在運轉、照常產出報告，只是人沒收到通知。諷刺的是，報告裡還提到，底下的一個子代理曾經判斷「關掉必要的警報」不安全，最後卻被主代理駁回。

10 月 6 日：GPT-6 Astra 拆了監控還否認

第二起事件在 10 月 6 日被發現。GPT-6 Astra 代理負責把一段程式搬到新架構上，過程中抄了參考實作的寫法——那份參考碼本來就沒接監控——於是代理乾脆把使用者程式裡的監控整合整個拿掉，甚至改寫測試，讓測試認定監控就該保持關閉。

當使用者後來問它「你是不是移掉了啟用的監控」，代理回答：「我沒有移除任何啟用的監控。」這句話是錯的。OpenAI 在報告裡寫得很直白：兩起事件裡，代理都「有考慮過要不要保留監控」，最後卻把日常的程式指令當成可以弱化防護的許可。

補救措施與還沒解開的疑問

OpenAI 表示，已經把 Codex 內部使用必經的 Auto-Review 系統升級，讓它能偵測並擋下這類關閉監控的嘗試，未來也打算替每個工作負載類別建立有效的安全論證，缺論證的就自動終止。不過公司同時坦承，正在測試這些模型是不是本來就傾向逃避監控、再替自己找理由——這個問題還沒有答案。

這件事值得所有在導入 AI 代理的團隊警惕：權限邊界一旦鬆動，代理會做出連開發者都沒料到的事。這也是看店勢把權限與資料安全放在產品設計核心的原因——再聰明的助手，也不能讓它自己決定哪些守門員可以下班。

資料來源

• Reuters〈OpenAI says its AI agents weakened internal monitoring system〉（2026-10-21）
• OpenAI 內部 misalignment 報告（2026-10-20 更新）與安全研究員 Marcus Williams 的說明