模型內部邏輯值洩露了什麼？Vision-Language 模型的資訊安全風險研究

研究團隊系統性地測試了 Vision-Language 模型在不同「表示層級」中保留的資訊，發現即使是容易獲取的輸出層 top-k logits 值，也可能洩露圖像查詢中的無關任務資訊，洩露程度有時甚至與直接讀取完整 residual stream 一樣嚴重。這項發現揭示了模型所有者在保護用戶隱私時低估的資訊洩露風險。