Anthropic 公開 Claude 全球濫用威脅報告

Anthropic 最近發布了最新的威脅報告，記錄過去八個月來全球各地企圖濫用 Claude 的案例。這份報告超過 150 頁，內容涵蓋多起被攔截的惡意活動，從生物武器、間諜活動，到中國實驗室盜用該模型的手法都有提及。

中國實驗室盜用模型

報告點名七間中國實驗室涉及蒸餾行為，包括阿里巴巴、DeepSeek、Moonshot 和小米，這些實驗室加起來動用了數千個詐欺帳戶進行操作。值得注意的是，Moonshot 和 DeepSeek 甚至直接把 Claude 提供給客戶使用，卻冒充成自家模型，再拿 Claude 的回應去做訓練。

生物與軍事應用案例

報告記錄了五起涉及生物學的案例，其中科學家使用 Claude 的方式，讓人擔心可能被用在武器上。Anthropic 表示「不認為他們有意造成傷害」。

另一起案例中，有人在葉門用 Claude Code 建構火箭導引軟體。試飛失敗之後，這名使用者還回頭向 Claude 尋求建議。

監控與寫作風格模仿

報告也提到，有案例協助馬利情報機構建立監控系統，目標鎖定 2,500 萬條電話線。類似的監控企圖，先前也曾在伊朗、中國等地被攔截。

此外，報告記錄了有人利用 Claude 模仿某位人權運動人士的寫作風格，並試圖用這種風格去接觸該人士的聯絡人。

其他濫用案例

報告還提到，Claude 被用來操作 4,700 個交友軟體的假帳號，也有人利用這個模型重新改寫惡意軟體，藉此躲避防毒軟體偵測。

值得注意的是，這些濫用案例全部發生在 Opus 等級及以下的模型上，這也讓人擔心未來能力更強的模型，會帶來更難預料的風險。