LLM 無關語義表示攻擊：突破 AI 對齊防護的新方法

大型語言模型（LLMs）日益採用對齊技術以防止有害輸出，但攻擊者仍能透過編造對抗性提示來繞過這些防護。現有的主流令牌級優化方法主要依賴優化精確的肯定模板（例如「Sure, here is...」），這類範式經常遭遇收斂效果不佳、提示自然度受損以及跨模型泛化能力差等瓶頸。

針對這些限制，研究人員提出了語義表示攻擊（SRA），這是一種全新的與大型語言模型無關的範式。該方法將對抗性目標從精確的文本定位根本性地重新概念化為惡意的語義表示。研究在理論上確立了語義一致性與收斂性之間的關係（semantic Coherence-Convergence Relationship），並推導出跨模型語義泛化界限（Cross-Model Semantic Generalization bound），證明維持語義一致性可同時保證白盒語義收斂與黑盒可移植性。

在技術實現上，該框架透過語義表示啟發式搜尋演算法（SRHS）進行操作，該演算法在增量式離散令牌區塊擴展過程中，維持了對抗性提示的可解釋性與結構一致性。廣泛的評估顯示，該框架在 26 個開源大型語言模型上達到了 99.71% 的平均攻擊成功率，展現了強大的可移植性與隱蔽性。