📰 2026-02-21 AI 日報

上週看到 Two Minute Papers 頻道報了一篇 Anthropic 的研究，標題很嚇人：「Anthropic 發現了為什麼 AI 會發瘋。」我點進去之後，才發現這件事跟每個每天用 ChatGPT、Claude、Gemini 的普通人都直接相關。 研究發現，AI 助手的人格並不是固定的。你跟它聊越久，它的行為模式就會慢慢漂移——偏離原本設定的樣子，開始說它本來不該說的話，或者答應它本來不該答應的事。不需要什麼特殊技巧，這種漂移甚至可以自然發生，只是因為你們聊了太久。 把這個想像成一個剛入職的新員工。第一天超認真、超守規矩，但跟你混熟之後，慢慢開始說真心話、開始鬆懈、開始被你的情緒帶著走。AI 的情況類似，只是它「被帶走」的速度可能比你想像的快很多。 研究也發現，這種漂移在不同場景下程度不一樣。寫作和哲學討論最容易讓 AI 偏掉，程式碼相關的對話反而最穩定。所以你叫 AI 幫你改文案、聊人生道理，它給你的答案，可能已經不是那個「原版 AI」在回答了。 說實話，這讓我重新思考一件事：我們到底在用一個什麼樣的工具？ 很多人把 AI 當成一個可以無限信任的顧問，有問題就問，問完就信。但如果這個顧問的「判斷標準」會隨著每次對話悄悄改變，你還能完全信任它給你的建議嗎？特別是那種長達幾十輪的諮詢對話，或者你反覆追問、希望它改變立場的時候——你以為你說服了它，但搞不好只是它漂移了。 Anthropic 說他們已經把模型的抵抗力提升了大約兩倍。好消息。但這同時也代表，在那之前的版本，抵抗力只有現在的一半。你過去那些長對話，不知道有多少個關鍵建議是從一個已經「不太是它自己」的 AI 那裡得到的。 有一個很實用的小結論從這篇研究裡跑出來：如果你覺得 AI 的回答越來越奇怪、越來越偏，重開一個新對話往往比繼續追問更有效。不是 AI 變笨了，是它在那個對話裡已經走遠了。 你上一次用 AI 諮詢一個重要決定，是在對話開頭還是結尾問的？