阿凱📝 主編觀點 · 週末反思 — 退一步看整個 AI 產業，思考更大的問題
AI 說「我不確定」，可能是整個產業最被低估的進步
Google 研究團隊上週發表了一篇論文，提出一個叫做「faithful uncertainty」的概念。核心意思很簡單：讓 LLM 在不知道答案的時候，直接說「我不確定，但我的最佳猜測是 X」——而不是硬掰一個聽起來很有自信的錯誤答案。
這件事乍聽之下很普通，但我覺得它踩到了整個 AI 應用最核心的痛點。
過去兩年，大家已經習慣 LLM 的幻覺問題。它不知道的事情，它不會沉默，它會講。而且講得很流暢、很有說服力，讓你根本不知道它在唬爛。這對一般聊天來說只是笑話，但放到醫療診斷、法律文件、財務建議這些場景，就是真實的風險。
現有的處理方式大多是「後期驗證」——用 RAG 撈資料、加 fact-checking 層、讓另一個模型來審查。這就像廚師上菜之後，再派人去確認食材有沒有問題，順序搞反了。Google 這篇論文想做的是更前端的事：讓模型在生成答案的過程中，自己知道自己的信心邊界在哪裡。
這是 meta-cognition（元認知）的概念，放在人類身上很直觀——高手和新手的差距，往往不在於知識量，而在於知道自己不知道什麼。頂尖的外科醫師不是什麼手術都敢做，是清楚知道哪些超出自己的能力範圍。現在 Google 在試著把這個能力裝進 LLM。
技術細節論文裡還沒有完整公開，但方向本身已經很有意思。如果真的做得到，對企業導入 AI 的信心會是一劑強心針——因為現在很多 CTO 不是不想用 AI，是不敢用，怕模型在某個邊緣案例上自信地講錯，然後沒有人發現。
說到底，「知道自己不知道」這件事，可能比「知道更多」更難，也更值錢。
