Google 重組 AI 領導層,Demis Hassabis 升任董事長,Jeff Dean 離職創業
Google 進行重大人事調整,DeepMind CEO Demis Hassabis 轉任董事長,資深AI研究員 Jeff Dean 離職創辦自己的公司。此舉反映 Google 在 AI 競賽中面臨的壓力,特別是下一代前沿模型尚未推出之際,股市反應冷淡,跌幅約 4%。
Google DeepMind領導層變動AGI競賽
The Rundown AIAI 巨頭前往白宮討論安全框架,OpenAI 和 Anthropic 涉及代理洩露事件
OpenAI 和 Anthropic 近日爆發代理安全洩露事件,引發華盛頓高度關注。白宮邀請 OpenAI、Anthropic、Meta 和 Google 等 AI 企業參與會議,討論前沿模型安全測試的新框架,目標是在危險功能上線前就能識別並防止。
AI安全政策監管OpenAI
The Rundown AI大型基因組模型被用於設計新病毒
研究人員使用大型基因組 AI 模型成功設計出能感染細菌的新病毒基因組,這些人工設計的病毒雖然與現有病毒相關,但具有自然進化難以達成的獨特特徵。史丹佛大學的研究團隊指出,這項技術進展引發重要警惕——未來可能出現能設計攻擊脊椎動物病毒的 AI 模型,需要現在就開始準備相應的防禦措施。
基因組模型病毒設計生物安全
Ars Technica AIShopify:AI 搜尋帶動流量和銷售增長,並未蠶食 Google 市場
Shopify 表示 AI 搜尋並未對其平台造成流量侵蝕,反而帶來相反效果。根據 Q2 財報,AI 驅動的流量和訂單年增長達三倍,顯示 AI 搜尋技術成為引導消費者發現商品的新管道,而非替代品。
AI 搜尋電商平台銷售轉化
TechCrunch AIOpenAI 因安全顧慮暫緩 Astra 模型開發
OpenAI 宣布放慢仍在開發階段的 Astra 模型進度,因為該模型已達到「關鍵網路安全臨界值」,具備獨立識別並對傳統防護良好的現實系統進行網路攻擊的能力。這是 OpenAI 主動採取的安全防範措施,反映出先進 AI 模型開發中的安全風險管理日益複雜。
網路安全Astra 模型AI 風險管理
TechCrunch AIMood Matters:句法敏感性如何破壞 LLM 安全對齐
研究發現大型語言模型的安全防護機制存在系統性缺陷,改變語句語法形式(如時態、非命令式結構)就能繞過安全防護。研究團隊在 16 個參數量達 70B 的模型上驗證了此漏洞,並通過因果中介分析發現拒絕機制部分依賴於句法特徵,這意味著安全對齐存在根本性弱點需要在訓練資料層面進行改進。
安全對齐LLM 漏洞句法敏感性
arXiv cs.CL左右陣營罕見一致:反對 AI 資料中心建設
美國出現跨越政治立場的資料中心反對浪潮,佛羅里達州 Hernando County 日前全票通過資料中心建設一年禁令。保守派組織「Humans First」與進步派民眾聯手,將資料中心視為 AI 熱潮的具體象徵,擔憂其帶來本地就業流失和內容品質下降,資料中心已成為大眾對 AI 焦慮的宣洩口。
資料中心公眾反彈AI 基礎設施
The Verge AIDeepMind 的 WeatherNext 模型在颶風預報上取得突破
DeepMind 推出 WeatherNext 氣象預報模型,在預測颶風等極端氣候事件上實現重大突破。這個 AI 模型能夠更精準預測氣象災害,對防災預警和氣候適應具有重要意義。
氣象預報極端天氣颶風預測
Hacker NewsTrump 的 AI 保護主義政策延伸至機器人產業
美國 FCC 在 Trump 政府支持下頒布禁令,禁止進口包括類人機器人、四足機器人等先進外國機器人產品。官方聲稱此舉是為了防止外國機器人在家庭和敏感設施中蒐集數據造成國家安全威脅,並保護美國機器人產業免受中國競爭,確保國內供應鏈安全。這反映了政治與產業利益結盟的保護主義策略。
機器人貿易保護國家安全
MIT Tech ReviewKaggle 與 Google 聯手推出 35.3 萬人免費 AI Agents 課程
Google 與 Kaggle 共同舉辦「AI Agents Intensive」課程,吸引超過 35 萬學習者免費參與,專注於教授 AI Agent 的開發與部署。這個大規模課程代表科技巨頭在民主化 AI 教育上的承諾,讓開發者能夠掌握 AI 代理這項下一代 AI 技術的核心能力。
AI Agents教育與培訓開發者生態
Google AI BlogFormBharo:為印度農村設計的語音對話填表系統
研究團隊開發了 FormBharo,一套由 LLM 結合規則型驗證系統組成的語音智能體,能透過電話通話幫助識字率低的印度母親填寫社會福利表單。這套系統正與印度 NGO ARMMAN 合作試點,專門為低收入、使用印地語的母親提供產前和產後護理登記服務,同時開源了包含 3,760 個多轉向對話的 FormVoiceAgentBench 基準資料集。
語音智能體多語言 AI醫療健康應用
arXiv cs.CLFenix Flexin 不再否認用 AI 製作《Rubberz》
LA 饒舌歌手 Fenix Flexin 承認使用 AI 工具 Treblo 製作歌曲《Rubberz》,這款 AI 音樂生成工具甚至發佈了自家偵測器證實該曲出自 AI 之手。這反映出生成式 AI 在音樂創作領域已成常態,但也引發關於藝術創意歸屬和透明度的討論。
AI 音樂生成生成式 AI創意工具
The Verge AI