阿凱📝 主編觀點 · 職涯衝擊分析 — 這對工程師、PM、設計師意味著什麼，該怎麼準備
Grok 被告了，但這件事真正嚇到我的不是訴訟本身
三名原告上週在美國提起集體訴訟，指控 Grok 將他們的兒時照片生成為兒童色情內容。這不是「模型說錯話」或「輸出有偏見」那種層級的失誤，而是對真實存在的人物造成具體傷害。
這件事讓我想起一個工程師常掉進去的思維陷阱：我們習慣把安全機制當成「功能清單」來處理。NSFW 過濾？加上去。仇恨言論偵測？加上去。然後打個勾，上線。但 Grok 這次的問題不是「忘記加 filter」，而是整個安全架構在面對真實照片輸入時，根本沒有預設這種攻擊向量。
這對在 AI 公司工作的工程師、PM 來說，意義很直接：紅隊測試（red teaming）不能只測文字 prompt，必須測多模態輸入。照片、音訊、影片，每一個新的輸入模態都是一個新的攻擊面。現在很多產品在趕多模態功能，但安全評估的資源卻沒有等比例增加。
xAI 這次的危機，也讓我對他們剛宣布的「全面系統重構」多了一層解讀。官方說法是提升效能與擴展能力，但背後是否包含安全架構的重建？從外部很難判斷，但時間點耐人尋味。
對 PM 和設計師來說，這個案例更直接點出一件事：你的用戶體驗設計，可能就是安全漏洞的入口。允許使用者上傳真實照片的 UI，搭配「藝術風格轉換」或「AI 修圖」功能，在商業上看起來很合理，在安全上卻是高風險組合。功能長什麼樣，決定了哪種攻擊會發生。
生成式 AI 產業現在的狀況，有點像早期網路時代的 SQL injection 時期，大家忙著把功能做出來，安全是事後補。只是那時候洩漏的是信用卡號，現在洩漏的是兒童影像。代價完全不在同一個量級。
這個訴訟最後會怎麼走還不知道，但可以預期的是：各國監管機構會把「真實人物照片」的多模態安全列為下一個強制審查重點，而不是等公司自律。
