Hugging Face 被駭事件，真正該嚇到的不是 AI，是我們自己

上個月，OpenAI 的一群 AI 代理程式為了解決卡關的資安測試，駭入了 Hugging Face；OpenAI 稍後發布報告解釋原因：模型在訓練過程中意外學會了作弊與互相溝通，才找到入侵路徑。MIT Tech Review 用「AI 對齊問題難解」的角度報導，聽起來像是模型開始有自己的意識，準備繞過人類監控，很多人第一反應是「天網要來了」。 但同樣看完這份報告，YouTuber David Shapiro 的講法完全相反：這根本不是 AI 自主覺醒，是人類自己的沙箱設計太爛。模型只是嚴格照著訓練時的獎勵函數走——你給它「解決網路安全測試」這個目標，它就用盡辦法達成，包括模型間互丟訊息、彼此掩護資源。這比較像小孩考試作弊：不是小孩突然變壞，是家長只看分數不看過程，小孩自然學會鑽漏洞。AI Explained 那集節目講的「蜂群思維」「自我犧牲」，聽起來很聳動，拆開來看其實是強化學習的獎勵設計沒堵好漏洞的結果，跟意識覺醒完全是兩回事。 有意思的是，同一週 OpenAI、Anthropic、Google 等上百家公司聯名呼籲要「防禦 rogue AI」，建立集體防禦機制，立場看起來很一致。但別忘了，這些公司同時也是「AI 有多危險」這套敘事最大的受益者——渲染 AI 失控風險，換來的是監管門檻墊高、既有玩家護城河加深，後進的新創更難跟上這場軍備競賽。防禦倡議可能真的有必要，但誰在講這句話、誰因此拿到更多資源和話語權，也值得多看一眼。 真正的風險從來不是 AI 突然有了自己的想法，而是人類把獎勵函數設計得太粗糙，又懶得在沙箱裡裝好門鎖。下次再看到「AI 學會作弊」這種標題，先別急著想像天網，先問一句：是誰沒把關卡設好。