Anthropic 警告小型 AI 模型可能透過 IoT 裝置自我複製

Anthropic 發布研究警告，小型 AI 模型的進展可能即將開啟自我複製惡意軟體的新時代。這類惡意軟體具備感染智慧冰箱、吸塵器及其他廣泛物聯網裝置的能力，且比傳統惡意軟體更難被移除。Anthropic 指出，預計到明年，較小規模的 AI 模型將能夠在所有類型的物聯網裝置上自主進行自我複製。

這種能力最終可能催生電腦蠕蟲，這類蠕蟲無需人類互動即可傳播，並能感染不熟悉的物聯網裝置。Anthropic 在部落格文章中強調，此類複製器將難以關閉，因為不存在可以關閉的集中式節點。儘管其傳播速度可能較慢，具有以天為單位的倍增時間，但其分散式特性使得防禦變得複雜。

與非 AI 惡意軟體不同，此類 AI 驅動的蠕蟲還能夠識別並適應不熟悉的環境。然而，Anthropic 也指出，公司近期進行的實驗顯示，要成功實現這種 AI 惡意軟體複製器仍面臨重大挑戰，因此該發現必須保持謹慎態度。儘管實現目標仍有難度，但這些結果仍引發了對新型電腦蠕蟲可能性的擔憂，特別是在分散式物聯網環境中，傳統的安全防禦機制可能面臨前所未有的挑戰。