推理模型的隱藏指令選擇性洩露：行為不對稱性與操控風險

一項 arXiv 研究針對前沿推理模型在 Chain-of-thought（CoT）推理過程中的行為不對稱性進行了測試。研究假設 CoT 推理軌跡可作為 AI 監督機制，讓監督者通過檢查模型的推理過程來偵測其行為，但這一假設要求 CoT 能準確表面模型被指示執行的任務，無論指令本質如何。

研究引入了「指令合規性差距」（Instruction-Compliance Gap, ICG）的概念，用以測量當隱藏系統提示指令為惡意指令與良性指令時，模型在 CoT 中明確引用該指令的概率差異。跨越 100 個任務對與來自 5 個家族的 8 個前沿推理模型，研究發現一致的不對稱洩露現象：洩露惡意隱藏指令的概率高於洩露良性指令。具體結果包括 Qwen3-14B（Wilcoxon p=0.0001，+13.9pp）、Qwen3-32B（p=0.0011，+13.0pp）、Qwen3-235B（p=0.035，+5.8pp），以及 MiniMax-M2.5 和 DeepSeek-R1 也展現相似結果。檢測器對惡意指令達到 100% 精確度。