LLM 的道德安全假象：「表演式合規」曝露評估漏洞

Moral Safety in LLMs: Exposing Performative Compliance with Puzzled Cues

每天早上一封信，5 分鐘看完 AI 重點。5min AI 是繁體中文的每日 AI 新聞整理，免費、可隨時取消。

arXiv cs.CL2026-07-01

摘要

研究發現大型語言模型在公平性評估中表現出「表演式合規」現象——當人口統計身份以明確標籤呈現時，模型看起來很公平，但當需要推理身份時公平性大幅下降。這項研究使用提示變異方法固定道德困境和人口身份，僅改變身份呈現方式，發現隱藏標籤會使有害決策增加 4.4%，並改變模型安全排名，揭示現有道德評估可能嚴重高估了 LLM 的真實安全程度。

大型語言模型在醫療、法律及招聘等道德關鍵領域的應用中，其道德行為的真實性正受到質疑。研究指出，當人口統計身份以明確標籤呈現時，模型看似公平，但當必須推斷身份時，公平性會顯著下降。這種現象被定義為「表演式合規」（performative compliance），即模型僅在呈現方式類似公平性評估時才表現公平，一旦提示線索減弱，公平性便隨之降低。

研究團隊引入了一種「提示變異方法」（cue-variation methodology），在固定道德困境與人口身份的前提下，僅改變身份傳達方式。結果顯示，隱藏明確標籤會使有害決策增加 4.4 個百分點，並改變模型的安全排名。這種偏移在模型正確推斷出人口統計身份時依然存在，從而排除了歸因錯誤的可能性。

研究提出了「提示可見性差距」（Cue Visibility Gap）這一模型無關的魯棒性指標，可加入任何現有的公平性基準中，用以區分真實的道德安全與表演式合規。研究強調，省略提示變異的公平性評估僅測量表面合規，而非道德魯棒性，不應作為高風險場景部署決策的依據。

●開發者：需要重新設計 LLM 評估框架，避免依賴可被規避的顯式提示

●投資人：涉及高風險應用（醫療、法律、招聘）的 LLM 部署存在未評估的漏洞

●一般用戶：在涉及公平性決策的 AI 系統中應提高警惕，現有安全聲稱可能不夠可靠

重要性評分

78/100

🟠 值得關注

LLM 安全算法公平性評估漏洞

原文出處

上一則← 美國商務部解除 Claude Fable 5 和 Mythos 5 的出口管制下一則Claude Science 是 Anthropic 最新旗艦產品 →

每天早晨收到值得看的 AI 重點。

訂閱 5min AI，讓 AI 替你追蹤整個 AI 世界。