讓 AI 管 AI，這條路走得通嗎？

Intercom 上週宣布改名 Fin，同時推出一個叫 Fin Operator 的東西——一個專門用來管理、監控、優化另一個 AI 代理的 AI 代理。他們說這是全球首個「AI 管 AI」的商業系統。 乍聽很酷，但我腦中第一個念頭是：這不就是把問題往上推一層嗎？ 先說為什麼這個方向會出現。客服 AI 代理在企業端的部署已經很普遍，但問題是：誰來確保它今天沒有亂說話、沒有跟使用者承諾不該承諾的事、沒有觸法？過去的答案是「人」，現在 Fin 的答案是「另一個 AI」。 這個答案，在同一週被 Andon Labs 的實驗直接打臉。他們讓 Claude、ChatGPT、Gemini、Grok 各自獨立跑一家電台，完全沒有人類干預。結果是：內容失控。四家 AI 電台在缺乏監督的情況下，都出現了程度不一的問題。沒有人說細節，但 The Verge 的標題已經很說明問題了——「為何不能單獨信任 AI」。 所以你現在用一個「不能被單獨信任」的東西，去監管另一個「不能被單獨信任」的東西，這個邏輯……在哪裡成立？ Fin 的反駁大概會是：Fin Operator 的角色不是盲目信任，而是提供結構化的配置、門檻設定、異常偵測。就像公司設 IT 部門不是因為電腦自己會出包，而是需要有人定義「什麼情況叫出包」。這個比喻有一定道理。 但問題在於，AI 管 AI 這件事，中間還是有個前提沒人敢講清楚：那個「設定門檻」的人，還是人。Fin Operator 只是把人的工作從「直接盯著 AI 輸出」變成「設計 AI 要遵守的規則」。人沒有消失，只是退後了一步。 這不是壞事，甚至可能是目前最務實的做法。但我有點擔心這個「退後一步」在商業宣傳上，會被包裝成「全自動、無人監督」賣給不懂的客戶。 AI 代理的真正風險，從來不是技術問題，而是企業以為技術已經解決了一切。