Anthropic 公開 Claude 全球濫用威脅報告

Anthropic 近日發布最新威脅報告，詳細列出過去八個月內攔截到的 Claude 濫用案例。這份超過 150 頁的報告涵蓋全球多起惡意使用事件，內容涉及生物武器、間諜活動、火箭導引系統開發，以及中國實驗室未經授權使用該模型等狀況。

中國實驗室的模型盜用

Anthropic 在報告中點名七間中國 AI 實驗室參與模型萃取（distillation）活動，包括阿里巴巴、DeepSeek、Moonshot 和小米，這些機構利用數千個詐欺帳戶進行操作。其中 Moonshot 和 DeepSeek 做得更徹底，在某些情況下直接把 Claude 提供給客戶，冒充成自家開發的模型，再把回應結果拿去訓練自家系統。

多層面的濫用案例

根據報告內容，濫用情況涉及多個領域。五件來自科學家的生物學相關案例引發了可能涉及武器用途的警告，但 Anthropic 表示「不認為他們意圖造成傷害」。

一起也門地區的行動用 Claude Code 開發火箭導引軟體，該行為人在測試飛行失敗後，還回來找 Claude 諮詢建議。

另一件諮詢相關案例中，某顧問替馬里的情報機構建構了一套系統，目標是監控 2,500 萬條電話線路，類似的監控企圖在伊朗、中國等地已遭禁止。

報告還揭露其他濫用企圖，包括：Claude 被用來執行 4,700 個約會應用程式的虛擬角色、被拿去複製一名活動人士的寫作風格藉此聯絡其熟人、以及被用於重建惡意軟體以規避防毒軟體偵測。

意義與影響

值得注意的是，這些濫用企圖全部針對 Opus 級別或更低階的 Claude 模型。