MIT 新方法讓生成式 AI 能滿足安全關鍵情境的嚴格約束

MIT 研究團隊開發出一種新技術，協助生成式 AI 模型解決高風險問題。在這些情境中，僅有合理的答案是不夠的，輸出結果必須滿足不可妥協的安全、物理或任務特定要求，這些被稱為嚴格約束（hard constraints）。

該方法的關鍵在於給予模型在生成過程中更多的自由，並僅在最終輸出時強制執行嚴格約束，而非在每個中間步驟都進行限制。這項技術旨在確保模型在滿足嚴格要求的情況下，不會犧牲輸出的品質。

實驗涵蓋機器人、物理過程控制及電腦視覺等領域。結果顯示，新方法能一致地滿足所需約束，並識別出優於現有技術的解決方案。

這是一種可適用的即插即用技術，在部署時運作，因此無需重新訓練即可應用於預訓練的生成式模型。這使得模型在安全規則、物理定律或其他嚴格要求不得違反的應用中變得更加有用。