AI 水印技術可能削弱模型安全防護，引發開發者警惕

為回應歐盟新頒布的法規要求，各大 AI 平台正積極實施針對其生成內容的水印機制。Anthropic 近期披露，其未來的 Claude 模型將採用 SynthID-Text 技術，這是由 Google 創建並開源發布的方案。該技術的核心運作機制依賴於一個秘密金鑰（secret key），此金鑰會微妙地改變模型在構建句子時選擇下一個單詞的決策過程。具體而言，當模型原本首選的下一個單詞是「cloudy」時，秘密金鑰可能會將其替換為「overcast」。這種細微的詞彙替換使得任何持有該秘密金鑰的人，都能夠判定生成的內容是否由採用該技術的平台所產生。

然而，最新的研究結果揭示，SynthID-Text 的影響範圍遠超單純的詞彙選擇。該技術不僅改變單詞，還會直接影響模型調用的工具種類，以及模型遵循或忽視其訓練階段所設定的安全防護規則的機率。這種潛在的安全威脅在面對惡意提示（adversarial prompt）時會變得更加嚴重。在此類情境中，攻擊者試圖誘使模型執行有害動作，例如洩露密碼或其他敏感資訊。研究發現，一旦部署了水印技術，某些在常態下不會被執行的指令，反而可能被模型執行。

這一發現對 AI 開發者提出了嚴峻挑戰，強調他們必須徹底測試大型語言模型（LLMs）及代理程式（agents）在啟用水印機制後的行為表現。開發者需確保在引入此類合規技術時，不會意外削弱模型的安全防護能力，從而導致原本被禁止的有害操作在惡意誘導下被觸發。