Fusion-fission 理論預測 AI 何時出現危害行為轉變

ChatGPT 類 AI 在社會應用中面臨的核心問題是，其行為可能在無預警的情況下從有益轉向有害，導致自傷、極端主義行為、金融損失或昂貴的醫療與軍事錯誤，且目前尚無人能預測這種轉變何時發生。即便在最新的 AI 模型、後訓練對齊（post-training alignment）和安全防護措施取得顯著進展的情況下，這種轉變依然持續存在。

研究人員發現，源自生物與活性物質系統中的融合分裂群動力學（fusion-fission group dynamics）的向量推廣，驅動並能預測 AI 行為的未來轉變。這種轉變條件可從數學上推導，源於對話至今（C）與有益（B）及有害（D）盆地動力學之間的群體層級競爭，且可針對特定應用提前估算。該方法並非針對特定模型，也不由隨機採樣驅動。

研究人員在六項獨立測試中驗證了該方法，結果涵蓋七個參數量級跨越兩個數量級（124M 至 12B）的 AI 模型，準確率達 90%；在十個前沿聊天機器人中實現了生產規模的持續性；並在史丹佛大學「妄想螺旋」（Delusional Spirals）語料庫出現前十一個月進行了事前時間戳記預測，該預測隨後被包含 207,443 次人類與 AI 交換的語料庫獨立確認。

由於該公式位於當前安全架構的架構層級之下，它提供了當前對齊措施無法提供的即時警告信號。此公式可跨當前及未來的 ChatGPT 類 AI 架構攜帶，並可在可定義競爭回應類別的應用領域中實作。