Safety Targeted Embedding Exploit via Refinement：LLM 安全機制在低資源語言中的漏洞

大語言模型的安全訓練主要基於英文，導致其安全機制在低資源語言和混合語言切換情境下的泛化能力存疑。研究指出，這種情況造成了一種認知差距，使模型在面對偏離安全訓練分佈的輸入時，會自信地生成有害回應。

為研究此現象，研究團隊提出 STEER（Safety Targeted Embedding Exploit via Refinement），這是一種梯度引導攻擊方法。該方法識別對模型拒絕行為貢獻最大的詞彙，並將其迭代翻譯成低資源語言，從而在保留有害意圖的同時抑制拒絕反應。

在六個開源 8B 參數模型的測試中，STEER 在 JailbreakBench 上達到最高 93.0% 的攻擊成功率，在 AdvBench 上達到 96.7%，表現優於隨機代碼切換和 Greedy Coordinate Gradient (GCG)。這些生成的提示詞還能轉移到 GPT-4o-mini，在不接觸目標模型的情況下實現 35.5% 的攻擊成功率，顯示底層弱點並非單一架構特有。

研究結論表明，主要基於英文對齊的安全機制不能假設能跨多語言輸入泛化。研究團隊主張，提升多語言安全需要更廣泛的對齊覆蓋，並建立能明確檢測並對偏離分佈輸入保持沉默的機制。