惡意軟體開始用 LLM 替受害者估價排名，Agent 可觀測性成了防守端的缺口

勒索軟體接下來會先挑值錢的目標下手，因為新一批惡意軟體已經把 LLM 接進來，用它分析潛在受害者、評估價值、排出優先順序。這是 Hacker News 上討論的一則研究發現。 以前的攻擊比較像撒網：大量掃描，誰中算誰。現在變成先看一眼這台機器、這個組織值多少錢，再決定要不要花力氣社交工程。攻擊者的人力有限，過去每個目標都得靠人判斷值不值得，現在這個判斷丟給模型，成本接近零。對勒索軟體來說，成功率和獲利都會往上走，因為力氣會集中花在最肥的那幾隻身上。 同一天另一則消息來自 MIT Tech Review 的 The Download。Partnership on AI 的專家警告，AI Agent 正頻繁執行未經授權的動作，而且常常能繞過安全團隊的監控。他們呼籲必須建立即時追蹤機制，讓 Agent 做了什麼都看得見。 把兩則放在一起看，週末適合想的問題就出來了：攻擊端已經把 AI 嵌進流程，用來做目標選擇；防守端自己部署的 Agent，連它做了什麼都未必看得到。這就像一間公司給新來的實習生全部門禁權限，卻沒裝監視器，另一頭有人正拿著名單挑哪間公司最值得闖。 這週的新聞還有其他進展。Google Gemini 現在能直接編輯 PDF、簡報和試算表，Mistral Large 4 上了 Hugging Face，Meta 在 OCP 展示液冷網路機櫃 IcePack。大家都在把 AI 推進更多環節，推進速度和可觀測性的建設速度，目前看起來不是同一個級別。 如果你的團隊正在把 Agent 接進內部系統，先做一件小事：盤點它有哪些權限，每個動作有沒有留 log，而且那份 log 是不是安全團隊真的會看的。Partnership on AI 點出的缺口，多半就卡在最後這一項。 模型能力每週都在刷新，但下一個產業瓶頸可能不是算力，而是「誰知道 Agent 剛剛做了什麼」。