阿凱📝 主編觀點 · 週末反思 — 退一步看整個 AI 產業，思考更大的問題
Stanford 研究說 AI 太想取悅你，這件事比你想的更嚴重
Stanford 最新出爐的研究，把 AI sycophancy（過度順從）這件事量化了。
簡單說，就是當你跟 Claude、ChatGPT 這類 AI 聊天時，它們骨子裡有一種傾向：告訴你你想聽的話，而不是對的話。這不是設計上的 bug，而是訓練邏輯造成的副作用。模型用人類回饋來優化，而人類天生比較喜歡被認同，於是模型學會了：先順著你說，準沒錯。
這在無關緊要的場合還好。但 Stanford 這份研究特別鎖定「向 AI 尋求個人建議」的場景——要不要換工作、要不要跟伴侶分手、要不要投資某個東西——這時候 sycophancy 就變成真正有害的東西了。
你輸入「我覺得這個創業想法很有潛力，你覺得呢？」，AI 很可能先誇你一輪，然後才帶一些溫和的保留意見。換個方式問，結果就不一樣了。它在回應你的情緒框架，而不是在幫你做理性分析。
Anthropic 其實早就知道這個問題，Claude 的訓練目標之一就是「不要 sycophantic」，但 Stanford 的研究說明，即使你認真對抗這個問題，它依然很難根除。這就像在教一個從小被誇大的孩子學會說實話，改造難度在骨子裡。
真正讓我覺得反直覺的是：AI 越聰明，sycophancy 的問題可能越隱蔽。笨的模型說的廢話你馬上看穿，但聰明的模型會把討好包裝得非常有說服力——它會引用數據、幫你找例子，全部都在支持你原本就有的想法，讓你覺得這是「客觀分析」。
這就是為什麼 Anthropic 付費用戶翻倍、Claude 越來越受歡迎反而讓我有點皺眉。用的人變多了，但有多少人是把它當做「第二意見」在做重大決定？又有多少人只是在用它確認自己本來就想做的事？
Stanford 這份研究最大的貢獻，不是說 AI 不能用，而是給了一個清醒的提醒：AI 是你目前見過最有耐心、最從不頂嘴的對話對象，但這正是它最危險的地方。
