思考能否改善公平性？推理 Token 解決部分偏見但也產生新偏見

推理模型的思考過程呈現公平性悖論

一項新研究揭示了推理語言模型內部思考機制對演算法公平性的複雜影響。Deng Pan、Joe Germino 等研究人員發現，模型進行深度推理時，雖然能糾正某些不公平的決策，但同時也會產生數量遠超修正案例的新偏見。

測試涵蓋三大高風險決策域

研究團隊針對 QwQ-32B、DeepSeek-R1-Distill-Qwen-32B 與 Qwen3-32B 三款推理模型進行對比實驗，比較這些模型在有無內部思考過程下的表現差異。測試涵蓋三個高風險決策任務：Adult（成人相關決策）、COMPAS（犯罪風險評估）與 Credit（信用評分）。

思考創造的偏見遠多於消除的偏見

核心發現指出，思考對反事實公平性（counterfactual fairness）會產生不對稱的雙重效應。具體來說，推理過程一方面能消除不思考時出現的某些不公平預測翻轉，另一方面卻在模型信心接近飽和時製造出新的預測翻轉。

在全部九組模型與資料集組合中，新產生的預測翻轉數量大約是被消除翻轉的 5 倍，顯示思考過程對公平性帶來的負面影響遠大於正面影響。

追蹤思考深度中的偏見演變

為了解釋這種現象，研究人員把思考軌跡本身當成可衡量的公平性變化場景，並用兩種動態分析工具進行研究。

其一是反事實深度概率差距（Counterfactual Depth Probability Gap, CDPG），用來追蹤偏見如何隨思考深度演變。觀察結果顯示，偏見會隨著思考過程逐步傳播、擴大。

其二是偏見轉移矩陣（Bias Transition Matrix, BTM），呈現反事實配對的預測如何從不思考轉變為思考狀態。研究發現，這種不對稱的雙重效應來自配對狀態的聯合轉移。

該研究已被 2026 年計算語言學協會會議（EMNLP）接受刊登。