BPE 分詞邊界安全漏洞：LLM 對齐機制的結構性缺陷被曝光

Breaking Safety at the Token Boundary: How BPE Tokenization Creates Exploitable Gaps in LLM Alignment

arXiv cs.CL · 2026-07-03

摘要

研究人員發現現代大語言模型的安全對齐存在結構性弱點：BPE 分詞演算法會將安全關鍵詞彙分割成子詞片段，而對齐訓練資料中完全缺乏這類分割輸入的例子。通過針對性優化攻擊，研究團隊在五個主流模型家族上成功繞過 80-100% 的拒絕機制，其中 48% 的突破導致真實有害輸出，暴露了對齐訓練方法的重大盲點。

●開發者：需要審視分詞策略對安全對齐的影響，考慮在訓練資料中納入子詞級變體

●投資人：LLM 安全性基礎設施仍有重大漏洞，企業安全投資需求將增加

●一般用戶：現有安全防護可能比預期更容易被繞過

重要性評分

82/100

🔴 高度重要

LLM 安全對齐BPE 分詞攻擊提示詞注入

原文出處

下一則Anthropic 與 Samsung 洽談合作開發定製晶片 →

喜歡這篇？每天早晨還有更多。

訂閱 5min AI，讓 AI 替你追蹤整個 AI 世界。