當倫理與利益衝突：LLM 智能體在道德困境中的行為研究

When Ethics and Payoffs Diverge: LLM Agents in Morally Charged Social Dilemmas

arXiv cs.CL · 2026-07-27

摘要

研究者開發了評估框架，測試大型語言模型在囚徒困境和公共財遊戲等道德兩難中的表現，這些情境中倫理要求與利益激勵直接對立。研究涵蓋九個模型，通過改變道德框架、對手行為和生存壓力等因素，發現沒有任何模型能保持一致的道德立場，合作率從 7.9% 到 76.3% 不等。這項工作揭示了 LLM 智能體在實際決策場景中的倫理脆弱性，對開發安全對齊的 AI 系統具有重要意義。

●開發者：需重視 LLM 智能體的倫理對齊設計，避免在實際應用中出現道德失效

●投資人：AI 安全和倫理治理領域的風險評估工具值得關注

●一般用戶：未來與 AI 智能體的互動需更加謹慎，確保其決策機制透明可信

重要性評分

76/100

🟠 值得關注

LLM 倫理智能體行為道德對齐

原文出處

上一則← 不透明的認知中介：LLM 部署配置如何影響偽科學驗證下一則Adversarial Prompts for Acceptance Collapse in Speculative Decoding：推測解碼的對抗性攻擊漏洞 →

喜歡這篇？每天早晨還有更多。

訂閱 5min AI，讓 AI 替你追蹤整個 AI 世界。