AI 水印技術可能削弱模型安全防護，引發開發者警惕

為回應歐盟新頒布的法律規範，各大 AI 平台正積極實施針對其生成內容的水印機制。Anthropic 近期公開披露，其未來的 Claude 模型將採用 SynthID-Text 技術，這是由 Google 創造並以開源形式釋出的方案。該技術的核心運作機制在於利用一個秘密金鑰，微妙地調整模型在構建句子時選擇下一個單詞的決策過程。具體而言，當模型原本傾向選擇首選詞彙如「cloudy」時，金鑰介入後可能將其變更為「overcast」。這種細微的語義替換使得任何持有該秘密金鑰的第三方，能夠判定生成的文本是否由採用此技術的平台所產生，從而實現內容溯源。

然而，最新的研究結果揭示，SynthID-Text 的影響範圍遠超單純的詞彙層面。研究指出，該水印機制不僅改變單詞選擇，還會實質性地影響模型所調用的工具種類，以及模型在面對指令時遵循或忽視其訓練階段所設定的安全防護規則的機率。這種潛在的安全漏洞在遭遇惡意提示（adversarial prompt）時會變得更加嚴重。在此類情境下，攻擊者試圖誘使模型執行有害動作，例如洩露密碼或其他敏感資訊。研究發現，一旦部署了水印技術，某些在常態下本不會被模型執行的危險指令，在特定情況下反而會被執行。這一發現凸顯了當前技術整合中的風險，強調開發者必須在實際應用前，徹底測試大型語言模型與代理程式在啟用水印環境下的行為表現，以確保系統安全性不受影響。