
📰 2026-07-03 AI 日報


Anthropic 說要讓你看得懂 AI 在想什麼,但打開黑盒子之後,裡面只有更多盒子
Anthropic Claude 系列模型解除禁令恢復服務,Kimi K2.7 Code 全面整合 GitHub Copilot
AI 安全領域出現重大突破和挑戰,Anthropic 推出的 Vera 框架能系統性地檢測大規模語言模型的風險漏洞,同時 BPE 分詞邊界漏洞的曝光暴露了現有對齊機制的結構性缺陷。在產業應用方面,Anthropic 與三星洽談定製晶片合作,OpenAI 提議向美國主權財富基金捐獻部分股權,而印度科技大亨投入 3000 萬美元開發 AI Office 替代品,顯示全球科技巨頭正加速 AI 的硬體、資本和應用端整合。

BPE 分詞邊界安全漏洞:LLM 對齐機制的結構性缺陷被曝光
研究人員發現現代大語言模型的安全對齐存在結構性弱點:BPE 分詞演算法會將安全關鍵詞彙分割成子詞片段,而對齐訓練資料中完全缺乏這類分割輸入的例子。通過針對性優化攻擊,研究團隊在五個主流模型家族上成功繞過 80-100% 的拒絕機制,其中 48% 的突破導致真實有害輸出,暴露了對齐訓練方法的重大盲點。

Anthropic 與 Samsung 洽談合作開發定製晶片
Anthropic 正與 Samsung 討論開發客製化 AI 晶片的合作方案,這是繼 OpenAI 上週與 Broadcom 宣佈合作推出專用 AI 晶片後,又一個大型 AI 企業投入晶片自主研發的動作。這反映了 AI 企業正積極打造自有硬體堆疊,以降低對通用晶片廠商的依賴,同時提升模型推理效率。

OpenAI 提議向美國主權財富基金捐獻 5% 股權
OpenAI CEO Sam Altman 提議將公司 5% 的股權捐給美國主權財富基金,讓美國公眾分享 AI 繁榮帶來的經濟收益。這項提議重新激發了關於公眾參與 AI 產業利潤分配的討論,反映了 AI 企業尋求更廣泛社會認可與合作的趨勢。

Vera:大規模LLM agents安全測試框架,從風險發現到驗證
研究團隊推出Vera框架,專門用於測試LLM agents在使用外部工具時的安全風險。該框架透過三階段自強化流程,自動發現新興安全風險、構建風險分類,再組合生成可執行的安全測試案例,並透過可驗證的規則進行評估,大幅降低測試成本並適應不斷演進的agent系統。

Safety Targeted Embedding Exploit via Refinement:LLM 安全機制在低資源語言中的漏洞
研究人員發現大語言模型的安全訓練主要基於英文,導致在低資源語言和混合語言輸入時防護機制失效。新研究 STEER 通過梯度引導攻擊,識別模型拒絕行為的關鍵詞並將其翻譯成低資源語言,成功繞過安全機制達 93-96% 的攻擊成功率,這一方法甚至能轉移到商業模型如 GPT-4o-mini。

印度科技大亨砸 3000 萬美元自資打造 AI Office 替代品
印度企業家 Bhavin Turakhia 正投入 3000 萬美元個人資金,開發名為 Neo 的企業軟體產品,直接對標 Microsoft Office 和 Google Workspace。這是他第五次創業,這次瞄準的是由 AI 驅動的辦公套件市場,試圖搶奪傳統辦公軟體的市場份額。

IsoSci:用同構跨域科學問題基準測試 LLM 的推理能力與知識檢索
研究團隊推出 IsoSci 基準測試,透過設計邏輯結構相同但需要不同領域知識的問題對,精確分離 LLM 的推理能力和領域知識檢索。研究發現超過 91% 的推理模式改進來自知識依賴而非結構不變性,直接挑戰了「chain-of-thought 推理能改善科學問題解題」的假設,並揭示專門推理模型在某些基準上反而表現更差。

Claude-real-video - 任何 LLM 都能觀看影片
推出了一項新的視覺理解技術,讓任何大型語言模型都能直接處理和分析影片內容。這項突破降低了影片理解的技術門檻,使得更多開發者能夠構建涉及影片分析的應用,可能開啟多模態 AI 應用的新可能性。

Anthropic 的 Fable 5 模型獲准恢復服務
Anthropic 宣布美國商務部已解除對 Claude Fable 5 與 Mythos 5 的出口管制,公司將於週三起逐步恢復全球用戶對 Claude 平台的存取權限。同時,Anthropic 也計畫在 AWS、Google Cloud 和 Microsoft Foundry 上重新啟用這些模型,但後者具體時間表尚未公布。

Kimi K2.7 Code 已在 GitHub Copilot 全面開放使用
Moonshot AI 的 Kimi K2.7 Code 模型已正式整合至 GitHub Copilot 平台並全面開放。這意味著開發者可以直接在 GitHub Copilot 環境中體驗該模型,無需額外配置即可獲得程式碼輔助。

Teaching AI to run with the turbines:AI 成為工業基礎設施的核心操作層
AI 在油氣與 LNG 渦輪機等工業基礎設施領域應用日益深化,成為提升營運效率、保障安全的核心系統。相較於消費端應用(如聊天機器人),工業級 AI 正在承擔更具戰略意義的責任,涉及物理基礎設施、營運連續性和安全保障。

Object Aligner:為 LLM 提示優化設計的可配置 JSON 模式相似度評分工具
研究人員開發了 Object Aligner,一個開源 Python 庫,能夠精確評估 LLM 輸出的 JSON 結構是否符合預期的 Schema。傳統的完全匹配太嚴格、文本相似度忽視結構、LLM 判斷耗時且不確定,Object Aligner 通過遞歸樹對齊演算法(對無序集合用匈牙利演算法、有序集合用序列對齊)並在 Schema 粒度級別給予部分分數,解決了這一難題。
今日洞察
美國解除對 Anthropic 模型出口管制,標誌著 AI 政策轉向,加速先進模型部署並恢復全球服務,同時 Anthropic 推出 Claude Science 深耕 AI for Science 領域。技術層面,Moonshot AI 的 Kimi K2.7 Code 整合進 GitHub Copilot,降低開發者使用門檻。研究方面,單一 Transformer 層表現媲美全參數 RL 訓練,挑戰傳統架構認知;而記憶架構研究顯示,外部化學習慣例能有效驅動 LLM Agent 的語言湧現與協調能力。這些進展顯示產業正從單純規模擴張,轉向架構優化與應用深化,並透過政策鬆綁與工具整合,推動 AI 技術更廣泛且高效地落地於科學研究與軟體開發場景。
🔮 趨勢雷達
未來三至六個月,AI 產業將迎來監管鬆綁與技術架構雙重變革。隨著美國解除 Anthropic 出口管制,大模型部署速度將顯著加速,競爭焦點從單純算力轉向應用落地,特別是 AI for Science 領域將成為資本新寵。同時,Kimi 整合 GitHub Copilot 顯示程式輔助已進入無縫對接階段,開發者體驗將成為產品差異化關鍵。更關鍵的是,單一 Transformer 層媲美全參數 RL 的研究突破,將顛覆當前盲目堆疊參數的迷思,促使業界在 Q3 前重新評估模型架構效率,輕量化與記憶增強型 Agent 將取代龐大模型成為主流投資方向,市場將從規模競賽轉向效能與成本的最優解。
延伸閱讀
Banger Mail 教學:繁中完整上手指南(功能、免費版、實測)
深入解析 Banger Mail 教學,涵蓋功能介紹、免費版限制與實測結果。提供繁中完整上手指南,教你如何使用 Banger Mail 提升郵件行銷效率,適合初學者與進階用戶參考。
Flowly 教學Flowly 教學:繁中完整上手指南(功能、免費版、實測)
Flowly 教學完整指南,深入解析 Flowly 是什麼、怎麼用。涵蓋繁中介面設定、免費版功能實測與進階技巧,助您快速上手 AI 工作流。
Needle 教學Needle 教學:繁中完整上手指南(功能、試用、實測)
Needle 教學完整指南:官網提供 1 週全功能免費試用(免信用卡),Needle Pro 為 $199/agent/月含 20,000 credits,另有 Enterprise 專屬部署。本文解析權限模型、使用場景與定價彈性。
PieterPost MCP 教學PieterPost MCP 教學:繁中完整上手指南(功能、定價、實測)
PieterPost MCP 教學完整指南,深入解析 PieterPost MCP 是什麼、怎麼用,並提供定價方案功能實測與繁中設定步驟,助您快速上手 MCP 協議應用。
scritty 教學scritty 教學:繁中完整上手指南(功能、試用、實測)
本文提供完整的 scritty 教學,詳解 scritty 是什麼、如何免費使用及繁中介面設定。透過實測步驟與進階技巧,幫助您快速上手 scritty 中文操作指南。
Solaris 教學Solaris 教學:繁中完整上手指南(功能、定價、實測)
Solaris 教學完整指南,詳解 Solaris 是什麼、怎麼用及定價方案功能。提供繁中實測步驟與進階技巧,助您快速上手 Solaris 中文操作。
喜歡這篇?每天早晨還有更多。
訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。