Anthropic 公開 Claude 全球濫用威脅報告

Anthropic 發布最新威脅報告，詳細列出過去八個月內攔截到的 Claude 濫用案例。報告篇幅超過 150 頁，涵蓋全球各地對該公司 AI 模型的惡意使用嘗試，包括火箭導引系統開發、生物武器研究、間諜活動，以及中國實驗室盜用並冒充 Claude 的事件。

中國實驗室的模型蒸餾與冒充行為

報告指出，Anthropic 識別出七家從事蒸餾工作的中國實驗室，包括阿里巴巴、DeepSeek、Moonshot 和小米。這些機構動用數千個虛假帳戶進行操作。其中 Moonshot 和 DeepSeek 在某些情況下直接把 Claude 提供給客戶，卻聲稱這是自己的模型，之後再拿 Claude 的回應去訓練自家系統。

生物與軍事應用的濫用案例

生物研究方面，報告記錄了五起來自科學家的生物相關案例，這些使用行為引發了可能被武器化的警示。不過 Anthropic 澄清，「並未主張他們有傷害意圖」。

軍事應用層面，一場在葉門進行的行動利用 Claude Code 開發火箭導引軟體，測試飛行失敗後，該行為人還回頭向 Claude 尋求建議。另外，一名顧問為馬里的間諜機構建構監控系統，目標是監視 2,500 萬條電話線。類似的監控企圖在伊朗、中國等多個國家也曾出現並遭禁。

其他濫用模式

報告還提到多種其他濫用活動，包括 Claude 被用來運行 4,700 個約會應用程式帳戶、模仿某行動人士的寫作風格與其聯絡人溝通，以及重建惡意軟體以規避防毒軟體偵測。

值得注意的是，上述濫用活動都是針對 Opus 級別以及更低階的模型。報告警示，未來當更強大模型的濫用報告出現時，情況會更難掌握。