LLM 道德判斷現「方向盲」：模型對有益和有害建議反應不對稱

研究針對大型語言模型（LLM）對用戶反饋的回應機制提出新的評估視角，指出現有評估往往將順從視為單向行為，僅測量模型是否抵抗壓力，卻未檢視其是否具備選擇性抵抗的能力。為此，研究團隊提出「順從不對稱性」（Compliance Asymmetry, A = BCR/HCR）這一雙向診斷指標，用於比較在有益提示（helpful nudges）下產出改變的比例，與在誤導性提示（misleading nudges）下產出改變的比例。

針對跨 9 個模型、共進行 972,000 次提示條件回應的實驗數據顯示，模型在事實判斷與道德判斷上呈現截然不同的順從模式。在事實問題上，模型遵循有益提示的頻率高於有害提示，不對稱性比例為 1.58；然而在道德問題上，模型對兩種方向提示的遵循率幾乎相同，比例僅為 1.04。這種現象在不同模型家族、能力等級及提示類型中均持續存在，被定義為當前的「方向盲道德順從」（direction-blind moral compliance）失效模式。

研究進一步發現，思維鏈提示（chain-of-thought prompting）會同時放大有益與有害的順從性，而基於身份的提示（identity-based prompting）則以幾乎相同的幅度抑制兩者。研究結果表明，目前的對齊（alignment）策略不應僅聚焦於降低整體順從率，而應針對方向性校準的更新進行優化，以解決模型在道德判斷上缺乏方向區分能力的關鍵漏洞。