偏好非安全：成對偏好評估對臨床安全的指標效力有限

一項基於 arXiv cs.CL 的研究針對 26,804 個成對判斷進行評估，旨在檢驗臨床醫生的成對偏好是否能作為大型語言模型（LLM）臨床安全的可靠指標。該研究利用 MOOVE（Massive Open Online Validation and Evaluation）平台，收集了來自 28 個國家超過 736 位臨床醫生的盲測評估數據，這些數據包含對 13 個 LLM 輸出結果的成對偏好評分。

在評估機制上，臨床醫生使用離散分數 $[-2, +2]$ 進行評分，其中負數代表臨床不安全或具誤導性的內容。研究結果顯示，臨床醫生的偏好並非臨床關鍵安全表現的可靠代理指標。即便在成對偏好中排名較高的 LLM 模型，仍可能在「無害性」（Harmlessness）和「準確性」（Accuracy）等關鍵安全維度上出現大量具有臨床意義的失敗（分數 $\leq -1$）。

此外，這些臨床失敗在不同醫療專科之間的分布並不均勻，導致特定領域出現「禁區」（no-go zones）。這表明僅依賴成對偏好評估無法有效識別模型在特定醫療領域中的潛在風險，高排名模型仍可能對特定專科造成實質性的臨床危害。