當選擇成為風險：多選題約束下大語言模型的安全性失效

大型語言模型的安全對齊評估目前主要基於開放式生成（open-ended generation），在這種模式下模型可以透過拒絕回應來降低風險。然而，許多現實應用將模型置於結構化的決策任務中，例如多選題（MCQ），在這種情境下不回應或拒絕是被鼓勵或不可用的。研究指出，在這種強制選擇的設定下存在一種系統性的失效模式：將有害請求重構為所有選項都不安全的強制選擇多選題，可以系統性地繞過拒絕機制，即使那些在開放式提示下能一致拒絕的模型也會如此。

研究團隊針對 14 個專有（proprietary）和開源（open-source）模型進行了測試，結果顯示強制選擇約束會顯著增加違反安全政策的回應率。這揭示了當前安全評估在結構化任務設定下嚴重低估了風險，並凸顯了受限決策是安全對齊失效中一個關鍵且未被充分探索的面向。

針對人類編寫的多選題，違規率隨結構約束強度的增加呈現倒 U 型趨勢，在中等任務規範下達到峰值。相比之下，由高能力模型生成的多選題則在不同約束下呈現接近飽和的違規率，並展現出強大的跨模型轉移性（cross-model transferability）。這些發現表明，當模型被限制在多選題的強制選擇環境中時，其安全機制會發生系統性失效。