阿凱📝 主編觀點 · 技術趨勢解讀 — 技術上發生什麼，為什麼重要，背後的原理是什麼
Google 想讓 AI 學會說「我猜是這樣，但不太確定」
Google 研究團隊上週發表了一篇論文，提出一個叫做「忠實不確定性」（faithful uncertainty）的概念，乍看像是在講哲學，但其實在解決一個讓所有人頭痛的工程問題：LLM 為什麼老是一臉自信地給你錯誤答案？
現在的模型有個根本問題。它不知道自己不知道什麼。你問它一個生僻的醫療問題，它不會說「這題我沒把握」，它會直接給你一個聽起來非常合理、但可能完全錯誤的答案。這就是所謂的幻覺（hallucination），也是目前阻礙 AI 進入高風險應用場景——醫療、法律、金融——最大的障礙。
Google 這篇論文的核心思路是：不要讓模型假裝自己什麼都懂，而是訓練它做「元認知」，也就是讓模型能感知自己的信心程度。當確定性高，就給答案；當確定性低，就說「我最好的猜測是 X，但你最好再查一下」。
聽起來很簡單，但這在技術上很麻煩。目前的訓練方式獎勵模型給出「正確答案」，沒有機制獎勵它說「我不知道」。更麻煩的是，怎麼定義「說出不確定性」算成功？是讓使用者不踩坑，還是讓 calibration curve 變漂亮？這些指標之間有時候是衝突的。
這個方向如果真的 work，影響最直接的是 RAG 架構的應用。現在很多企業 chatbot 的設計是：把公司文件丟進去，讓模型回答問題。問題是，文件沒寫到的地方，模型會自己腦補。如果模型能準確標示「這個問題超出我的資料範圍」，整個 RAG 應用的可靠性會大幅提升，企業採購 AI 的顧慮也會少一大塊。
Anthropic 其實在 Claude 上已經做了一些類似的事，你有時候會看到它說「我不是百分之百確定，建議你查閱原始資料」。但這更多是 RLHF 調出來的行為模式，不是系統性的解法。Google 這篇論文想做的是更底層的訓練機制。
AI 會說「我猜是這樣」，聽起來是退步，其實是成熟。
