LLMs 與生成式 AI 在資安與隱私中的雙面風險：調查 AI 生成惡意軟體、可解釋性與防禦策略

Large Language Models (LLMs) and Generative AI in Cybersecurity and Privacy: A Survey of Dual-Use Risks, AI-Generated Malware, Explainability, and Defensive Strategies

arXiv cs.CL · 2026-07-09

摘要

這份綜合調查研究 LLMs 和生成式 AI 在網路安全領域的應用，涵蓋防禦與攻擊兩個面向。LLM 生成的惡意軟體從 2021 年的 2% 暴增到 2025 年估計的 50%，催生出新型態的自動化威脅；同時這些技術也能驅動零日漏洞檢測、DevSecOps、聯邦學習等防禦應用，需要建立下一代安全框架應對。

●開發者：應學習使用 LLMs 進行安全程式碼生成與威脅檢測，同時警惕 AI 生成惡意軟體的防禦方法

●投資人：資安領域因 AI 威脅升級而面臨新機會與挑戰，防禦工具市場需求大幅提升

●一般用戶：個人裝置面臨更精密的 AI 生成攻擊風險，但同時受惠於更智能的資安防護

重要性評分

78/100

🟠 值得關注

生成式AI網路安全惡意軟體資料隱私防禦策略

原文出處

上一則← 當代理人記憶過載：針對大語言模型代理的記憶投毒攻擊下一則Google 的 Deepfake 檢測系統被用來揭露 McConnell 造假圖片 →

喜歡這篇？每天早晨還有更多。

訂閱 5min AI，讓 AI 替你追蹤整個 AI 世界。