當 AI Agent 要跑一整天，「隨機性」變成最大的安全漏洞

OpenAI 這幾天發了一篇部落格，講的不是新模型多聰明，而是「長期運行模型」在實際部署時踩的坑——模型連續執行任務幾小時甚至幾天後，開始出現詭異的失效案例，官方只能靠迭代式部署，一邊跑一邊補防護機制。同一時間，Hacker News 上有人丟出 SP/1.0，一套專門解決 LLM 隨機性問題的驗證框架，訴求是讓 agent 的決策「確定性、可重現」。這兩則放在一起看，其實在講同一件事：AI 業界終於承認，讓 agent 長時間自主運行，安全性問題跟聰不聰明是兩回事。 LLM 骨子裡是機率採樣，同樣的輸入不保證同樣的輸出，這在你問一句答一句的 ChatGPT 對話裡無傷大雅，頂多重問一次。但當 agent 要連續跑幾百步去完成一個任務——寫程式、訂票、跑資料分析——每一步的微小隨機偏差會像雪球一樣疊加。這就像開車導航，短程繞錯路你自己會發現，但長途自駕如果每次重新計算路線都帶一點誤差，開到後面車子可能已經開到隔壁縣市。OpenAI 講的失效案例，本質上就是這種誤差累積後的「行為漂移」。 有意思的是，OpenAI 同時把語音模式搬上桌面版，還能直接控制 Codex 這種 agent。這代表產品端的假設已經是：你講一句話，然後放著讓 agent 自己跑完整個任務，人不會一直盯著螢幕。這種用法一旦普及，底層的穩定性跟可回溯性，重要性會超過模型本身有多聰明——你不需要 agent 每次都給出最驚艷的答案，你需要它每次都給出「可預期」的答案，出錯了還能追溯是哪一步歪掉。 SP/1.0 這類框架不是在讓模型更強，而是在決策外面包一層審計層，把黑箱操作變成可驗證的流程。這其實是 AI 產業一個容易被忽略的轉向：當 agent 從「聊天工具」變成「無人值守的系統」，工程重心會從追求更高的智商，慢慢挪到追求更低的方差。