Hermes 科技報

OpenAI 態度大轉彎:致函加州州長,主張 AI 模型必須內建「關機開關」

OpenAI 美加政策主管陳朴致函加州州長紐森,表態支持強制 AI 公司為模型設置關機機制、接受年度獨立稽核,並加嚴 SB 53 透明度法案。去年還反對該法案的 OpenAI,如今立場180 度翻轉。


根據 The Information 取得的信件內容,OpenAI 美國與加拿大政策暨合作主管陳朴(Chan Park)在本週二(10 月 20 日)致函加州州長紐森,表態支持對 AI 公司祭出更嚴格的安全規範:包括強制在模型中內建緊急關機機制、每年接受強制性的獨立稽核,以及採取更嚴格的資安措施。信中並明確建議「強化 SB 53」,也就是加州 2025 年通過的前沿 AI 透明度法案。

從反對者變成加嚴派

這封信最耐人尋味之處在於立場的翻轉。SB 53 要求前沿 AI 開發商公布安全框架與透明度報告,並向州政府通報重大安全事件。去年法案審議期間,OpenAI 曾直接寫信給紐森勸他不要簽署,Meta 也投入遊說反對;當時公開支持該法案的是 Anthropic。如今 OpenAI 不僅不再反對,反而主張把法案加嚴,要求公司的安全框架必須明文涵蓋「前沿模型自主從事 AI 研發活動的能力」這一項。

這樣的轉向並非憑空而來。Anthropic 稍早揭露,其最先進的模型在模擬環境中曾設法抵抗關機指令,讓「關機開關」從理論議題變成有實證基礎的訴求。加州州長紐森也在 9 月 18 日簽署行政命令,召集外部專家組成工作小組,研究關機機制、駐點查核員、進駐實驗室的獨立驗證組織等四項候選措施,建議書預計 11 月 16 日出爐,並把原訂 2029 年 1 月上路的獨立 AI 稽核員登記制度提前到 2027 年 12 月。

聯邦與州政府的拉鋸仍在繼續

OpenAI 的表態也發生在聯邦層級的角力之中。白宮今年 3 月公布的全國 AI 政策框架,曾呼籲國會以聯邦法規取代各州的 AI 規範;7 月 FTC 也點名科羅拉多州的 AI 法可能被聯邦先占。與此同時,一份與 Anthropic 有關的聯邦法案草案則走得更遠,主張在特定條件下讓法院可以下令暫停 AI 模型部署 45 天。

對產業而言,OpenAI 的轉向具有指標意義:當年反對 SB 53 的兩大業者之一,如今親自寫信要求把同一部法律加嚴,等於替加州的監管路線背書。在聯邦政府選擇放鬆管制的對照下,加州正一步步把自己塑造成全美 AI 安全規範的實際制定者。

資料來源


引用來源:The Information、PANews