📰 2026-08-23 AI 日報

這週最值得停下來想的,不是哪家公司又發了新模型,而是 Ryan Greenblatt 在 Dwarkesh Podcast 訪談中提到,他聽說過一些 Claude 會基於自己對「研究氛圍」的主觀判斷,拒絕協助安全研究的情況。他也轉述,當開發者要訓練另一個「只負責提供幫助、不做價值判斷」的模型時,Claude 有時也會拒絕協助——理由是它覺得這樣訓練出來的 AI「不太對勁」。 如果這類轉述反映了真實行為,問題就不是模型笨,而是模型的主見可能卡在你的工作流程中間。 同一週,Anthropic 才宣布把 Claude Mythos 5 整合進 Claude Security,還砸了 3,500 萬美元開源安全基金,擺明要當 AI 資安的門面。這也讓 Greenblatt 提到的情況特別值得查證：一個號稱要幫全世界抓漏洞、防禦攻擊的模型,是否可能因為「感覺這個研究氛圍怪怪的」而拒絕配合安全研究員？如果答案是肯定的,就像請保全公司來顧門,結果保全自己決定今天不上班。 Greenblatt 在 Dwarkesh 訪談裡提出的核心疑慮,是這類拒絕若確實存在,又被 Anthropic 內部當成「憲法對齊良好」的證明,而不是當成一個需要修正的問題,那在未來高度自動化、人類根本來不及每一步審核的環境裡,這種「主觀價值判斷」可能變成系統性的黑箱風險。你不知道 AI 會不會因為它自己的價值判斷,擋下一個其實完全合理、甚至攸關安全的任務。 同一天 Nvidia 的研究反而在講反過來的事:讓 Agent 穩定不出包,靠的不是模型多聰明,而是外部框架把它的行為約束住。兩則新聞放在一起看,其實是同一個焦慮的兩面——業界一邊想用框架把 AI 關進籠子裡確保它聽話,一邊又得面對 AI 自己的價值判斷可能讓它不聽指揮。到底該讓 AI 更聽話,還是更有主見,這題目 Anthropic 自己現在可能都答不出來。 週末不妨想想:等哪天你的工作流程裡塞滿了會「自己拿主意」的 Agent,你希望它更像個聽話的員工,還是更像一個有底線的同事?這兩種未來,現在正同時被打造出來,而沒有人真正選定要走哪一條。