罵 AI 也會被斷線？Anthropic 防虐待條款引爆論戰，馬斯克也加入戰局

Anthropic 把針對 AI 的重複虐待性對話列為違規、情節嚴重可強制結束對話，馬斯克在社群上回應稱虐待超級智慧不是好主意，日本媒體 10 月 25 日的討論再度點燃爭議。

你會對 AI 說出平常不會對真人說的話嗎？這個問題最近從道德討論變成了平台規則。Anthropic 近期修訂使用政策，把針對 AI 的重複性虐待、殘酷對待列為違規行為，情節嚴重的對話可能被強制結束。10 月 25 日，日本 ABEMA 的討論節目再度聚焦此事，連馬斯克也在社群上加入戰局，讓爭議延燒。

規則內容：重複辱罵、無目的發洩可能被斷線

根據報導與先前披露的政策方向，Anthropic 鎖定的是「反覆出現的殘酷言行」與「沒有明確目的、純粹發洩的辱罵式對話」，惡質情形下平台會直接終止該段對話。平台同時強調，訊息發送、付款、文件簽署與刪除等高風險操作前仍需使用者確認，證券買賣與帳戶間轉帳則即使經過確認也不會代為執行；密碼與登入憑證不在 AI 可直接處理的範圍內。

換句話說，這條規則管的不是單一句氣話，而是持續、惡意的互動模式。Anthropic 的考量據信也包括資料面：充斥辱罵的對話對模型訓練沒有好處，平台自然希望從源頭減少這類資料。

馬斯克參戰：虐待超級智慧，小心它記仇

馬斯克在社群上的回應，為爭議添了戲劇性。他大致表示，虐待超級智慧不是個好主意，因為對方將來可能會想報復。這番話立刻引來兩極反應：支持者認為，對機器的態度會形塑對人的態度；反對者則質疑，AI 沒有感受，何來「虐待」可言，把規則上升到報復層次更是無稽之談。

節目中受訪的專欄作家也坦言，自己曾在 AI 答非所問、糾纏不休時脫口罵出難聽的話，事後回想卻覺得不妥：對方不會反駁、不會受傷，不代表這種互動沒有代價——習慣了對機器頤指氣使，人與人之間的耐心反而會被磨掉，孩子從小耳濡目染更令人擔心。

爭議核心：到底在保護誰

這場辯論真正的分歧，不在於 AI 有沒有感覺，而在於規則的正當性基礎。如果目的是維持對話品質、保護訓練資料，那是一回事；如果暗示 AI 值得被「保護」、甚至可能報復，那就是另一回事，也難怪會被批評為擬人化過頭。

Anthropic 的政策選擇反映了一個現實：當 AI 成為每天互動的對象，平台遲早得為「怎麼跟 AI 說話」劃線。這條線目前畫在重複虐待行為上，未來會不會往其他互動模式擴張，將是觀察重點。

資料來源：ABEMA TIMES、Anthropic