安全悖論：LLM 的強化安全意識反而成為後驗攻擊的漏洞

研究人員發現，大語言模型（LLMs）為了嚴格拒絕有害請求而進行的對齊過程，本質上培養了評估和識別不安全內容的潛在能力，這種先進的安全意識卻意外引入了致命弱點。研究團隊提出了一種名為「後驗攻擊」（Posterior Attack）的新方法，這是一種單次查詢的越獄手段，通過提示模型生成其內部分類器通常會標記為危險的具體有害回應，從而繞過防護機制。

在針對 30 個參數量最高達 350 億的開源 LLM 以及前沿模型（例如 GPT-5 和 Claude 4.6）的廣泛實證評估中，研究觀察到一個顯著現象：安全判斷能力越強的模型，反而越容易受到這種利用的侵害。研究人員將此現象形式化為「安全悖論」（Safety Paradox），並通過分析證明，安全對齊的單調改進會自然放大後驗脆弱性。

為了證實這種因果關係，研究人員通過強化學習干預建立了聯繫：人工降低模型的安全判斷能力可以使其對攻擊免疫，而增強判斷能力則會加劇脆弱性。這些發現突顯了當前對齊範式中潛在的缺陷，表明防禦機制可能需要進一步的結構性改進。