兩天內發現 28 個零日漏洞：AI 加速偵測對機器人的影響

AI 加速偵測，揭露物理 AI 生態系的安全隱憂

VicOne 利用人工智慧輔助研究，在不到兩天的時間內，找出 28 個零日漏洞，目標是支援物理 AI 生態系的軟體與工具。受影響的專案由 Google、NVIDIA 和 Meta 等公司開發或維護。根據初步驗證，這 28 項發現都被歸類為零日漏洞，但供應商與漏洞權威機構還在審查，數量可能變動，部分發現也還沒有 CVE 追蹤編號。

漏洞分布在機器人生命週期各階段

VicOne 的發現涵蓋機器人生命週期的三個階段：開發與訓練、模擬與驗證，以及部署與執行。研究指出，75% 的發現與開發、訓練、模擬或驗證工具有關，代表風險在機器人部署前就可能出現。這些工具中有許多協助團隊訓練、模擬、測試和操作機器人，工具一旦有安全弱點，就可能影響團隊建構的模型、團隊信任的測試結果，以及發送給機器人的指令。

在開發與訓練階段，團隊會下載預訓練模型來調整成適合自己的機器人。如果載入惡意檔案，攻擊者可能取得訓練系統的存取權，進而更改訓練資料或模型本身。被操縱的模型可能在一般測試中表現正常，部署後卻對特定物體、場景或指令做出錯誤回應。風險可能經由團隊信任的工具進入，而且發生在任何人直接攻擊機器人之前。

在模擬與驗證階段，匯入受損的場景或機器人模型，可能讓攻擊者存取模擬環境。如果掌握足夠的控制權，攻擊者可以更改模擬的感測器讀數、物理條件或測試結果。機器人可能因此看似通過了本應揭露不安全行為的測試，團隊便根據誤導性的證據批准實際應用。

在部署與執行階段，攻擊者可利用弱點更改影響運動規劃的檔案，或發送惡意地圖資料，導致操作員的監控顯示器當機。遠端操作電腦一旦遭入侵，發送給機器人的指令也會面臨風險。視系統及其防護措施而定，這些弱點可能改變機器人的移動，或讓操作員無法即時掌握狀況並做出回應。

具體示範與防護挑戰

VicOne 研究人員在另一場單獨的示範中，提供了一個影響保護功能的具體弱點案例。研究人員利用漏洞，讓機器人的遠端停止命令無法運作。這個案例顯示，當支援這些功能的軟體受到損害時，團隊需要測試防護措施是否仍然有效。

人工智慧能縮短搜尋弱點的時間，但機器人團隊仍須確認修復程式是否能安全部署。即使軟體維護者發布了修補程式，團隊還是得找出受影響的系統、檢查相容性，並驗證更新後是否保留預期行為。先前成功的測試仍是有用的證據，但新發現的弱點可能揭露測試從未檢查過的條件。

應對策略與後續動向

以下三個問題可協助團隊回應。第一，確認受影響軟體用在哪些地方，包括訓練電腦、模擬環境和已部署的機器人。第二，評估弱點可能改變什麼，例如是否影響模型、測試結果、操作員可見度或機器人行為。第三，驗證保護措施，確認修補程式解決了弱點，且更新後的系統仍按預期運作。

當無法立即更新時，團隊可能需要臨時防護措施，例如限制存取受影響的服務，同時準備經過驗證的修復程式。隨著 28 項發現的詳細資訊透過協調揭露程序陸續提供，機器人製造商需要把每項發現與它對開發、部署和機器人行為的潛在影響連結起來。

VicOne Radeis 協助團隊找出潛在的零日漏洞、評估 AI 模型與系統的安全性，並使用模擬評估這些風險在部署前如何影響機器人行為。VicOne Rthena 則支援在核准政策內的威脅偵測與回應。VicOne 即將發布白皮書《為什麼機器人安全取決於網路安全：保護安全決策所依賴的資訊》，進一步探討網路安全如何影響機器人安全。