ViTaX：具有形式化保證的可驗證目標解釋框架

隨著深度神經網路在自動駕駛與醫療診斷等安全關鍵領域的部署，利益相關者需要既具備可解釋性又擁有形式化保證的解釋。現有的可解釋 AI 方法存在明顯不足：啟發式歸因技術（如 LIME 和 Integrated Gradients）僅能指出影響特徵，卻無法對決策邊界提供數學保證；而形式化方法雖然能驗證魯棒性，卻缺乏針對性，僅分析最近的邊界，無法判斷該邊界是否代表關鍵風險。在安全關鍵系統中，並非所有誤分類後果相同，將「停止」標誌誤判為「時速 60」標誌的危險程度遠高於將其誤判為「禁止超車」標誌。

研究人員提出 ViTaX（Verified and Targeted Explanations），這是一個能生成具有數學保證的目標半事實解釋的形式化 XAI 框架。針對給定的輸入類別 y 和用戶指定的關鍵替代類別 t，ViTaX 執行兩項核心操作：首先識別對 y 到 t 轉換最敏感的最小特徵子集，其次應用形式化可達性分析，確保擾動這些特徵 epsilon 後不會將分類翻轉為 t。該方法通過「目標 epsilon-魯棒性」（Targeted epsilon-Robustness）進行形式化，認證特定特徵子集在向特定目標類別擾動時是否保持魯棒。ViTaX 是首個為模型對用戶識別替代方案的韌性提供形式化保證解釋的方法。

在 MNIST、GTSRB、EMNIST 和 TaxiNet 上的評估顯示，ViTaX 在保持極小解釋基數（explanation cardinality）的同時，實現了超過 30% 的忠實度（fidelity）提升。