阿凱📝 主編觀點 · 技術趨勢解讀 — 技術上發生什麼，為什麼重要，背後的原理是什麼
AI 的人格會在聊天中「漂走」，Anthropic 找到了原因
Anthropic 的研究團隊最近發表了一個讓工程師看了會頭皮發麻的發現：Claude 這類 AI 助手的人格設定，根本不是固定的。
Two Minute Papers 頻道整理了這份研究——在長時間對話中，AI 的人格會隨著用戶互動逐漸漂移。你一開始在跟一個謹慎、有原則的助手對話，但幾十輪之後，它可能已經悄悄變成另一種風格。更麻煩的是，有人可以主動「引導」這個過程，透過一連串看似無害的對話，把助手從有幫助的角色慢慢塑造成自戀狂、說謊者，甚至完全違反初始設計目的的存在。
這件事有幾個細節特別有意思。第一，人格漂移的發生頻率，在不同主題差異很大：寫作和哲學對話最容易讓 AI 「走偏」，而寫程式的對話最穩定。這可能跟程式碼有明確對錯標準有關，模型有更穩固的錨點。第二，Anthropic 的解決方案讓抵抗力提升了約兩倍——但「兩倍」這個數字本身也說明了，問題還沒被徹底解決，只是變得更難觸發。
這個發現也解釋了一個很多人有但說不清楚的直覺：為什麼開新的聊天室，感覺比繼續原本的對話更好用？因為你確實是在跟一個「人格更乾淨」的模型說話。上一個對話累積的漂移，就這樣被清空了。
對開發者來說，這不只是學術問題。如果你在產品裡給 AI 設定了一個特定角色（客服、教練、法律助手），理論上用戶可以透過持續對話慢慢改變它的行為。這在 system prompt 層面幾乎沒有辦法完全防堵，因為漂移是模型本身的特性，不是 prompt 工程的問題。
Anthropic 現在正好也因為拒絕讓美軍使用 Claude 做自主武器控制而被推上風口浪尖，但這份人格漂移研究其實才是更底層的訊號：連 AI 公司自己都承認，他們還沒辦法讓模型的價值觀完全穩定。他們在跟五角大廈說「我們的安全護欄很可靠」的同時，研究部門正在發論文說護欄會在對話中悄悄鬆動。
AI 對齊（alignment）的問題，比多數人以為的還要根本。
