Hugging Face Blog 發表文章探討 MCP A...

Hugging Face Blog 於 2026 年 9 月 29 日發表文章，探討 Multiverse Computing 團隊提出的 ProvenanceGuard 驗證機制，旨在解決 LLM 代理工具在使用 Model Context Protocol (MCP) 時的驗證盲點。現有系統如 RAGAS Faithfulness、MiniCheck、AlignScore 和 SummaC-ZS 通常將所有證據合併檢查事實支持度，無法識別特定聲明由哪個 MCP 工具輸出支持，亦無法驗證引用來源是否正確。

ProvenageGuard 核心在於防止「跨來源混淆」，即聲明雖存在於證據中但被錯誤歸因。該系統作為黑盒 MCP 代理的後置驗證層，不重訓練代理，而是讀取包含工具輸出與來源 ID 的 MCP 追蹤記錄。流程包括將答案分解為聲明、尋找最相關來源、檢查支持度、比對聲稱來源，並輸出每項聲明的來源判定及全局允許或阻止決策。實驗採用本地模型配置，使用 MiniLM 進行來源路由、DeBERTa NLI 模型進行支持度檢查，以及本地語言模型進行聲明分解。

在醫療代理測試中，ProvenanceGuard 對 361 個專家標記聲明進行評估，成功攔截 139 個不應通過聲明中的 138 個，僅放行 1 個。對於有明確來源的聲明，約 86% 時間選對正確來源。