Cyclic Denoising 攻擊揭露 Diffusion 模型中的超穩定記憶

研究人員發現一種名為 Cyclic Denoising 的新型提取攻擊方法，能透過重複的前向與反向擴散過程來露出圖像擴散模型中隱藏的訓練資料。這些「超穩定吸引子」能在經歷大幅損壞後自我重構，並在數千個去噪循環中持續存在，其中許多對應於被記憶的訓練圖像、品牌浮水印和網路爬蟲成品。該攻擊方法無需梯度、權重檢查或先驗知識，只需採樣器層級的控制，對 AI 模型的隱私與訓練資料安全構成重大威脅。