Truth Lies Deep：通過潛在意圖驗證對抗語義偽裝

研究發現大型語言模型的安全對齊機制存在漏洞，攻擊者可通過「語義偽裝」——將有害意圖包裝在無害敘述中（如創意寫作）——繞過標準防護。研究團隊分析了 Phi-3、Qwen2.5 和 Gemma-2b 等小型語言模型的潛在激活軌跡，發現模型在約 15-20% 的層深處存在「意圖地平線」，即有害概念的表示會隨著將查詢重新定位為「安全」敘述而崩潰。這項發現對 LLM 的安全設計有重要啟示。