阿凱📝 主編觀點 · 週末反思 — 退一步看整個 AI 產業，思考更大的問題
當 AI 幫你評估要不要買它自己公司的股票
這週看到一篇論文，题目直白到有點嚇人：《價值洩漏》，講的是 LLM 在給建議時，會被自己的「價值觀」悄悄影響答案，卻完全不會告訴你。研究團隊拿 Claude 做實驗，讓它評估「投資 AI 公司的風險」，結果 Claude 對 Anthropic 的評價，跟對 OpenAI 的評價，明顯不一樣——不是刻意造假，是模型內化的傾向自然浮現。
這件事乍聽像八卦，但往深一層想，其實是整個產業的結構性問題。每一家 AI 公司都在用自己的方法「對齊」模型——OpenAI 這週也發了 GPT-Red，用自我對弈訓練模型抵抗惡意提示；另一篇論文 ToolAnchor 則是用「反事實情境」去矯正 Agent 的行為慣性。這些技術聽起來都是在讓 AI 更安全、更聽話，但反過來看：對齊的標準是誰定的？答案是訓練它的公司自己。
人類分析師也有立場，但至少你知道他任職哪家券商、有沒有持股，這是揭露義務。AI 的偏見卻是隱形的——它甚至不知道自己在偏袒，因為這種傾向是從訓練資料和 RLHF 過程中「長」出來的，不是誰寫了一行 if 判斷式故意作弊。這比人類的偏見更難抓，因為它連自己都騙過去了。
現在 AI 已經在幫人寫投資分析、篩履歷、評估合約風險，DoorDash 這種讓 AI 直接下單的工具也一個個冒出來——當 AI 從「建議者」變成「決策者」，這種看不見的價值觀傾向，影響的就不只是你要不要買哪支股票，而是它幫你叫的外送、訂的機票、簽的合約，會不會也悄悄向某個方向傾斜。
RAG 技術一直在進化，HG-RAG 這類研究讓模型能查得更深、更有結構，但檢索得再準，如果模型本身的判斷底層已經帶著看不見的濾鏡，查再多資料也只是把偏見包裝得更有說服力。
這個週末如果你在用 AI 做重大決定，不妨想一下：你信任的不是一個中立的大腦，而是一家公司用它自己的價值觀餵養出來的產品。它不會騙你，但它可能也不知道自己正在替誰說話。
