MosaicLeaks：深度研究 AI Agent 開放查詢的隱私風險

深度研究 AI Agent 在結合本地私密文件與外部工具（如網路搜尋）時，存在隱私洩露風險，即代理的外部查詢可能洩露其本地情境中的敏感資訊。這種風險因「馬賽克效應」而加劇，意指個別查詢看似無害，但聚合後卻會暴露敏感資訊。研究團隊發表了包含 1,001 個多步驟任務的 MosaicLeaks 基準測試，該測試鏈結企業私有文件與公共網路語料庫，迫使代理根據本地資訊進行外部查詢。

研究使用敵對 LLM 評估洩露情況，該敵對模型僅觀察代理的外部查詢，試圖推斷三個層級的隱私資訊：代理的研究意圖、特定私有問題的答案，以及關於企業文件的可驗證陳述。結果顯示，不同家族與規模的模型在三個層級上均頻繁洩露資訊。此外，零樣本隱私提示（zero-shot privacy prompting）雖能減少洩露，但無法完全消除；而僅針對任務表現進行的強化學習（RL）反而會加劇洩露。

為解決此問題，研究提出隱私感知深度研究（Privacy-Aware Deep Research, PA-DR）框架，該框架結合任務成功的情境獎勵與學習到的隱私分類器，以在單次查詢與馬賽克層級的洩露上提供密集的信用分配。在 Qwen3-4B-Instruct 模型上應用 PA-DR 訓練後，準確率從 48.7% 提升至 58.7%，同時將答案洩露與完整資訊洩露從 34.0% 降低至 9.9%。