OpenAI 推出 GPT-Red：用於強化模型安全防禦的 LLM 超級駭客

OpenAI 開發了一個名為 GPT-Red 的語言模型，作為模擬網路攻擊的超級駭客，用於協助其其他模型提升對抗網路攻擊的防禦能力。該公司上週發布了其旗艦語言模型的最新版本 GPT-5.6，並利用 GPT-Red 進行對抗性訓練，使該版本成為迄今為止最堅固的發布版本。

GPT-Red 自動化了一種被稱為紅隊測試（red-teaming）的軟體系統安全評估類型，這種測試通常由一組人類測試人員執行。其目標是盡可能找出多種不同的方式來破壞或劫持系統，以便在軟體的最終版本發布之前修補弱點。隨著大型語言模型變得更加複雜，並被用於更廣泛的任務，特別是作為能與電腦檔案、網站、第三方程式碼以及其他代理互動的代理（agents），單靠人類團隊已難以跟上所有可能發生的攻擊類型。

OpenAI 研究科學家 Nikhil Kandpal 表示，隨著風險範圍擴大，爆炸半徑（blast radius）也會隨之擴大。OpenAI 建立 GPT-Red 是為了讓其安全測試流程具備未來防禦能力，並指出隨著更多能力更強的模型可用，該系統將持續發揮作用。