MIT 新方法讓生成式 AI 能滿足安全關鍵情境的嚴格約束

MIT 研究團隊開發出名為 HardFlow 的演算法，旨在讓生成式 AI 模型在安全關鍵情境中，同時滿足嚴格的安全、物理或任務特定約束（hard constraints），並提升解決方案品質。該方法的核心在於給予模型在生成過程中更多自由，僅在最終輸出時強制執行約束，而非在每個中間步驟都進行限制，從而避免過度限制模型尋找高品質解的能力。

HardFlow 將硬約束採樣重新表述為軌跡最佳化問題，利用最佳控制領域的工具來引導模型的採樣軌跡，並在過程中進行微調以確保最終輸出符合使用者要求。為了解決在龐大神經網路周圍解決此最佳化問題的困難，研究人員利用 flow-matching 模型的結構，將問題分解為一系列較小的單步子問題，並透過系統性的轉換與近似，推導出在部署時間高效且可擴展的演算法。

這項即插即用技術適用於預訓練的生成式 AI 模型，無需重新訓練即可在部署時應用，適用於 Stable Diffusion 等擴散模型以及 FLUX 等 flow-matching 模型。實驗涵蓋機器人操作、迷宮導航及文字引導的圖像編輯等領域，結果顯示 HardFlow 在滿足約束方面達到完美，且在解決方案品質上持續優於基線方法。例如在機器人操作中，它能避免碰撞並找到通往目標物件的最快路徑，而大多數其他方法則導致碰撞或需要更長時間。此外，HardFlow 的計算時間與大多數競爭方法相當或更低。

這項研究由機械工程與 LIDS 的研究生 Zeyang Li 擔任第一作者，IDSS 與 LIDS 的研究生 Kaveh Alim 共同參與，由機械工程系與 IDSS 的 Navid Azizan 教授擔任資深作者。相關論文發表於 IEEE Transactions on Pattern Analysis and Machine Intelligence。研究團隊未來計畫將此框架擴展至可更新 AI 模型本身的設定，以進一步提升約束滿足與樣本品質。