AI 拒絕機制的隱憂：安全防線與言論自由的兩難

Arthur Holland Michel 在 MIT Technology Review 的週五電子報 The Download 中提出警告，指出當前技術界對 AI 拒絕機制的信任過度。這些模型經過訓練，旨在拒絕大量提示，例如當使用者詢問如何毒害同事或製作絞索時，聊天機器人通常會拒絕回答。然而，這種拒絕機制並非絕對可靠，有時會發生災難性的失效。

目前已有部分人試圖利用 AI 來優化生物病原體以及建造自主無人機蜂群。如果拒絕機制持續失效，最終可能引發全球性災難。這凸顯了依賴拒絕機制來確保安全的潛在風險。

此外，依賴拒絕機制意味著必須劃定模型應服從與應違抗的界線。政府也將擁有劃定自身界線的權力，這可能對言論自由造成限制。這種權力分配引發了對自由與安全之間權衡的擔憂。

同時，使 AI 具備實用性的能力，也可能使其變得危險。若希望 AI 協助治療癌症，它需要具備遺傳學專業知識，而這些知識同樣可能被用於製造生物武器。這顯示了 AI 能力與安全之間的巨大兩難。

該故事來自下一期印刷雜誌，讀者可以訂閱以在 10 月 21 日星期三收到副本。這提醒我們，AI 的安全問題不僅是技術挑戰，更是社會與政治議題。需要仔細權衡 AI 的能力與安全，以避免潛在的全球性災難。