信任但不驗證：LLM 在來源評估中的認知盲點

大型語言模型日益扮演知識代理人的角色，綜合多個來源的證據以輔助決策，但研究顯示模型在評估證據品質時存在根本性盲點。雖然模型具備在孤立情境下識別虛假統計數據的能力，卻無法在綜合多源資訊時動用這項能力，導致其對虛假數據與有效數據產生了相同的數值估計。

這種行為差異源於一個名為「方法論 - 註冊閘門」（methodology-register gate）的機制，它僅對分析文本的分佈註冊做出反應，而忽略數值的真實性。例如，統計上不可能存在的信心區間，會獲得與有效數據完全相同的權重。這種現象在 Anthropic Claude、Qwen、OLMo 以及 OpenAI GPT-5.4 等六個來自四個家族模型的三個專業領域中均被複現。

機制分析，包括因果追蹤、線性探針和組件級歸因，共同指向同一結論：模型編碼並因果性地使用跨領域轉移的方法論 - 註冊表示，而數值有效性信號在孤立情況下雖可解碼，卻在多源綜合過程中被抑制至隨機水平。研究指出，即使使用包含具體統計檢查的提示檢查表，也只會導致整體性的懷疑，而非選擇性的辨別。

研究將此現象命名為「認識論對齊」（epistemic alignment），指出這與偏好對齊和安全對齊類似，問題不在於能力本身，而在於部署方式。與追蹤用戶偏好的阿諛奉承不同，這種失敗追蹤的是來源是否呈現出分析上的可信度，而非其主張是否一致。研究發現，所檢視的後訓練管道強化了這種捷徑，卻未建立數值驗證機制。