MIT 新方法讓生成式 AI 能滿足安全關鍵情境的嚴格約束

MIT 研究團隊開發出名為 HardFlow 的演算法，旨在讓生成式 AI 模型在安全關鍵情境中，同時滿足嚴格的安全、物理或任務特定約束（hard constraints），並提升解決方案品質。該方法的核心在於給予模型在生成過程中更多自由，僅在最終輸出時強制執行約束，而非在每個中間步驟都進行限制，從而避免過度限制模型尋找高品質解的能力。

這項技術作為即插即用方案，可在部署時直接應用於預訓練的生成式模型（如 Stable Diffusion 等擴散模型及 FLUX 等流量匹配模型），無需重新訓練。研究人員將硬約束採樣重新表述為軌跡最佳化問題，利用最佳控制理論工具引導模型的採樣軌跡，並透過流量匹配模型的結構將問題分解為較小的單步子問題，以實現高效且可擴展的演算法。

實驗涵蓋機器人操作、迷宮導航及文字引導的圖像編輯等領域。結果顯示，HardFlow 在確保完美滿足約束條件的同時，其解決方案品質一致優於現有基線方法。例如在機器人操作中，該方法能避免碰撞並找到通往目標物件的最快路徑，而大多數其他方法則導致碰撞或需要更長時間。此外，HardFlow 的計算時間與大多數競爭方法相當或更低。

這項研究由機械工程與 IDSS 的研究生 Zeyang Li 與 Kaveh Alim 擔任共同作者，Navid Azizan 為資深作者，相關論文發表於 IEEE Transactions on Pattern Analysis and Machine Intelligence。研究團隊未來計畫將此框架擴展至可更新 AI 模型本身的設定，以進一步提升約束滿足與樣本品質。