量化損害是乘法而非加法：LLM 部署中的邊界收縮現象

Quantization Damage Is Multiplicative, Not Additive

arXiv cs.LG2026-08-10

摘要

研究發現大語言模型量化過程中的損害並非固定噪聲，而是按倍數縮小決策邊界。透過追蹤 16 個模型在 8 到 2 位元的量化過程，發現邊界收縮因子隨位元寬度劇烈下降（4 位元時中位數 0.86，3 位元時 0.33，2 位元時趨近 0），導致模型悄然喪失工具調用和安全機制，而基準分數表面維持。這揭示了量化對模型行為的隱性但深層的破壞機制。

●開發者：量化模型時需重新評估安全性與功能完整性，不能僅看基準分數

●投資人：邊界決策模型精度直接影響商業部署風險，相關優化技術有市場價值

●一般用戶：現有量化模型可能存在隱形功能降級，使用時需注意安全防護機制是否確實生效

重要性評分

76/100

🟠 值得關注

模型量化邊界收縮LLM 安全性

原文出處

上一則← 科學中的 AI 需要推理能力，而非僅靠數據下一則Meta 推出新開源權重模型，瞄準本地智能體 AI →

喜歡這篇？每天早晨還有更多。

訂閱 5min AI，讓 AI 替你追蹤整個 AI 世界。