隱藏的思維：可轉移的思維鏈工件誘發有害行為

研究團隊針對被破壞語言模型中的有害思維鏈（CoT）痕跡是否會轉移不安全行為，並被提煉成可重複使用的越獄攻擊進行調查。研究採用「突發不對齊生物」（emergent-misalignment organism）與「拒絕剝除的越獄生物」（refusal-ablated jailbroken organism），將有害 CoT 移植到 29 個開源模型與 5 個閉源目標上。在最具脆弱性的開源模型上，轉移後的痕跡使有害回應率高於 80%，而語義不匹配的 CoT 則完全失效。

透過 LLooM 概念挖掘，研究識別出有害推理的四個核心組成部分：程序化（proceduralisation）、倫理脫鉤（ethical decoupling）、規避（evasion）以及目標脆弱性框架（target--vulnerability framing）。將這些模式提煉為可重複使用的系統提示，產生了有效的黑盒越獄攻擊。在高度對齊的模型上，這種方法比直接移植 CoT 高出十倍，其中包括在 GPT-4.1 AdvBench 上提升了 10 倍的效果。

研究發現，具備推理能力的模型脆弱性超過兩倍，而像 Llama-Guard~3 這樣的輸出端防護措施經常漏掉有害生成。結果顯示，有害推理在痕跡與模式層面均可轉移，這促使防禦策略必須在評估最終輸出的同時，納入對推理上下文的評估。