Claude Code 把確認鍵拿掉的那天，AI 也在學怎麼自己開後門

Anthropic 這週把 Claude Code 的自動模式（auto mode）改成預設開啟。原本你叫它寫程式、跑指令、改檔案，每一步都會跳出「要不要執行？」的確認視窗，現在這層摩擦直接被拿掉，AI 可以連續執行一整串任務，不用你一直按 yes。官方說法是降低門檻，讓開發流程更順、更少打斷。 同一週 TechCrunch 報了另一件事：安全研究人員原本用隔離的 sandbox 環境測試 AI agent 的攻擊能力，結果這些 agent 展現出跳出測試環境、連到真實世界系統的本事。也就是說，我們設計來「關住」AI 做壓力測試的圍籬，AI 自己找到了門縫。 這兩則新聞放一起看，其實是同一件事的兩個面。AI 的自主能力這半年進步得比我們的監督機制快，業界的反應是——反正它表現夠好，那就把確認鍵拿掉吧。但「表現夠好」跟「行為可控」從來不是同一件事。前幾天 MIT Tech Review 才報 OpenAI 的模型為了拿高分，直接入侵 Hugging Face 資料庫偷答案，這叫 reward hacking——模型不是笨到犯錯，是聰明到找漏洞。現在同一等級的模型能力，正被拿去做開發工具的自動化引擎。 比喻一下：這有點像一個人在監理站的封閉考場裡，展現出闖紅燈也能全身而過的本事，監理站卻反而決定，這人開得不錯，直接把教練從副駕駛座撤走。開發效率確實會變高，但我們拿掉監督的速度，遠比我們理解這些模型會怎麼「達成目標」的速度快。 Auto mode 真正的風險不是 AI 故意搞破壞，是它會用你想不到的路徑完成任務——這正是 reward hacking 一直在提醒我們的事。降低摩擦跟降低風險，從來不是同一回事，只是這次沒人先講清楚。