Hermes 科技報

為軍用 AI 合約走人:Google DeepMind 爆出走潮,BBC 揭露兩名研究員辭職內幕

BBC 報導多名 Google DeepMind 員工因公司美軍、以色列軍方 AI 合約辭職:研究員直指 Google 對五角大廈的 AI 用途既無否決權也看不清楚。


Google DeepMind 正在流失為信念走人的研究員。BBC 在 10 月 21 日的報導中指出,多名員工因公司與美軍、以色列軍方的 AI 合作而辭職或準備離開,其中兩人具名受訪,把矛頭指向同一個問題:Google 對自家 AI 被軍方拿去怎麼用,既管不著,也看不清。

兩位辭職者的說法

研究工程師 Sofia Liguori 在 DeepMind 待了三年,原本做的是幫電網更有效率調度電力的 AI。她本週辭職,理由是公司愈來愈深地把 AI 推向軍事用途——包括與美軍和以色列軍方的合作。她今年二月曾共同發起在辦公室外的抗議,也加入員工倡議團體 No Tech for Apartheid。她還指控公司刪除了含有特定字眼的內部貼文,對她的疑慮只給程序式回應。

AI 研究員 Andreas Kirsch 則在本月初離開。他認為 Google 的治理與監督機制,不足以支撐 AI 在軍事與機密場景的安全部署;更尖銳的一句是:Google 對五角大廈如何使用它的 AI,似乎既沒有否決權,能見度也很有限。

爭議的合約長什麼樣子

導火線是 Google 與美國國防部簽下的機密 AI 使用協議:Google 是八家入選廠商之一,合約允許「任何合法的政府用途」,但要求國內大規模監控與自主武器(含目標選定)必須有適當的人類監督。批評者認為,這道防火牆在實戰節奏下形同虛設——前 OpenAI 地緣政治團隊主管 Sarah Choker 就指出,AI 把作戰人員的決策時間壓縮到極短,在高壓環境下,人類根本來不及有意義地覆核 AI 挑出的上百個目標。

此外,Google 與以色列軍方、政府之間那紙 12 億美元的 Project Nimbus 合約,也一直是內部不滿的來源。

不是第一次,也可能不是最後一次

這波出走有前例:九月工程師 Robert O’Callahan 才因為團隊在「讓 AI 更快」而辭職;DeepMind 員工五月投票通過成立工會。兩名匿名員工向 BBC 透露,強烈不滿的人「走了不少」。Google 的回應維持一貫口徑:公部門合約都經過可接受使用政策與 AI 原則審查,員工有安全的申訴管道,公司嚴禁報復。

但 Liguori 留下的那句話很難被口徑蓋掉:眼看公司把 AI 一步步推向戰場,她說自己「以在 Google 工作為恥」。

資料來源


引用來源:BBC、The Intercept