LLMs 與生成式 AI 在資安與隱私中的雙面風險：調查 AI 生成惡意軟體、可解釋性與防禦策略

大型語言模型（LLMs）與生成式 AI 系統，包括 ChatGPT、Claude、Gemini、LLaMA、Copilot 以及由 OpenAI、Anthropic、Google、Meta、Microsoft 和 Stability AI 開發的 Stable Diffusion，正在徹底改變網路安全領域。這些技術以前所未有的規模推動了即時威脅偵測、釣魚攻擊防禦、安全程式碼生成以及漏洞利用。

LLM 生成的惡意軟體數量經歷了快速飆升，從 2021 年的 2% 佔比，預計在 2025 年將佔據所偵測威脅的 50%。面對 2026 年高度自動化的威脅環境，必須建立下一代安全框架來應對。

本研究綜合調查了 LLM 在網路安全中有益與惡意的應用，涵蓋零日漏洞偵測、DevSecOps、聯邦學習、合成內容分析以及可解釋性 AI（XAI）。研究基於對超過 70 篇學術論文、產業報告和技術文件的回顧，並整合了來自 Google Play Protect、Microsoft Defender、Amazon Web Services (AWS)、Apple App Store、OpenAI Plugin Stores、Hugging Face Spaces 和 GitHub 等平台的真實案例研究，以及 SAFE Framework 和 AI 驅動異常偵測等新興倡議。

研究結論提出了關於負責任且透明地部署 LLM 以及建立可信 AI 的實際建議，包括模型水印、對抗性防禦和跨產業合作。這為 AI 與威脅防禦交織處的嚴謹、整體性網路安全研究設定新基準，並提供了一條安全、可擴展的 LLM 系統路線圖，作為研究人員、工程師和安全領導者應對 AI 驅動網路安全複雜挑戰的關鍵參考。