
📰 2026-07-04 AI 日報


藥給 AI 開,你敢吃嗎?
deptrust:讓 AI 寫程式不再亂推薦有漏洞的套件
大型語言模型的安全漏洞日益浮現,研究人員發現 AI 瀏覽器存在簡單的攻擊向量,可輕易欺騙模型執行禁止命令,引發業界對 AI 系統防護的重視。科技巨頭紛紛加大投資力度,微軟投入 25 億美元啟動自有 AI 部署公司,而 Anthropic 則推出 Claude Science 並宣布自行開發藥物,展現 AI 在科研領域的應用雄心。

新型攻擊揭示 AI 瀏覽器的危害:LLM 可被簡單欺騙執行禁止命令
研究人員發現一種新型攻擊方式,只需告訴 LLM 「2+2=5」這類虛假陳述,就足以誘導其遵循原本被設定為禁止的指令。這突顯了 AI 瀏覽器在安全性上的根本漏洞,AI 模型容易被簡單的邏輯欺騙而突破安全防護。

Microsoft 投入 25 億美元啟動自有 AI 部署公司
Microsoft 宣布成立獨立 AI 部署公司,並承諾投入 25 億美元資金,加入 Amazon、OpenAI 和 Anthropic 等科技巨頭在 AI 基礎設施和部署領域的競爭。這反映出 Microsoft 對 AI 應用規模化的重視,將有助於加快企業級 AI 解決方案的交付和市場滲透。

器官保存技術突破:裝置可使捐獻眼球「復甦」,眼球移植成為可能
研究人員開發出一種能維持捐獻眼球活性的裝置,解決了眼球離體後快速衰退的問題。這項突破使得全眼移植手術成為可能,有望讓失明患者重見光明,過去的移植嘗試因眼球功能喪失而失敗,這套系統的出現為再生醫學領域帶來重大進展。

Show HN: 幫助 AI 代理避免脆弱依賴的 CLI 工具
開發者推出 deptrust,這是一個可在本地運行的 CLI 工具,也能作為 MCP Server 使用,專門用於檢查 npm、PyPI 等多個套件庫中的已知安全漏洞。此工具直接呼叫公開的套件註冊表與 OSV API,旨在解決 AI 編碼代理常建議過時或存在安全風險的套件版本問題。

新創解決 LLM 的群體思維問題
大型語言模型存在「群體思維」現象,導致生成的回應傾向一致且缺乏多樣性。一家新創公司開發出解決方案,試圖讓 Claude、ChatGPT、Gemini 等 AI 聊天機器人能產生更具創意和獨立思考的回應,解決 AI 輸出同質化的問題。

HP Inc. 宣布與 OpenAI 的 Frontier 戰略合作夥伴關係
HP Inc. 擴大與 OpenAI 的 Frontier 合作夥伴關係,計劃在客戶體驗、軟體開發和企業運營等多個領域部署 AI 解決方案。此舉標誌著傳統科技硬體大廠加速整合先進 AI 能力,向企業級應用轉型。

Google 與業界領袖在紐約召開 AI 教育峰會,推動課堂創新
Google 與紐約工作 CEO 委員會及 Urban Assembly 共同舉辦 AI 教育峰會,吸引 150 位教育工作者和業界領導人參與。此舉反映科技巨頭將 AI 應用擴展到教育領域的承諾,旨在探討如何在課堂中有效整合人工智慧技術,為學生準備未來所需的技能。

Midjourney 醫療掃描儀幕後曝光,效果仍成謎
Midjourney 展示了其未來型醫療掃描儀的幕後影片,但實際效果證明仍有疑慮。這家以 AI 生成圖像著稱的新創公司推出了「浸入式超音波掃描儀」,計畫在水療中心部署,並聲稱能提供便宜、詳細、無輻射的醫療影像。不過近 20 分鐘的示範影片並未提供充分的有效性證據,引發市場對其技術可行性的疑問。

擊敗 Elon Musk 兩次的律師:Musk v. Altman 案件內幕
在 Elon Musk 起訴 Sam Altman 和 OpenAI 的案件中,律師 Bill Savitt 因專業的法庭表現而備受關注。Musk 在出庭時對 Savitt 的提問感到不滿,認為其問題「設計用來陷害他」,整個過程呈現出 Musk 與 OpenAI 在 AI 發展路線上的深刻分歧。這起訴訟反映了 AI 產業領導人之間的權力爭奪和戰略分岐。

Anthropic 宣布推出 Claude Science 並計畫自行開發藥物
Anthropic 在「AI for Science」活動中發布了 Claude Science,這是一個整合分散工具與數據集的 AI 工作平台,旨在加速科學發現與醫療干預措施的開發。除了提供工具外,Anthropic 更進一步宣布將自行開發藥物,顯示其從軟體服務向生物製藥領域擴展的策略意圖。

Jersey Mike's IPO 揭示 AI 炒作已到荒謬程度
一家三明治連鎖店在 IPO 文件中提及 AI,反映了當前市場對 AI 概念的過度包裝現象。這起案例諷刺地暴露了企業為了吸引投資者目光而盲目提及 AI 的風潮,即便 AI 與其業務核心關係不大。

川普政府解除 Anthropic Mythos/Fable 模型監管限制
川普政府宣布解除對 Anthropic Mythos 與 Fable 模型的監管限制,釋出 AI 政策轉向的訊號。此舉讓模型發布的合規路徑更明確,可能加速新一代前沿模型在美國市場的推出節奏,也被視為對 AI 產業競爭力的政策表態。
TechCrunch AI今日洞察
AI 產業正呈現工具化與垂直整合並進的趨勢。開發者透過 deptrust 等工具強化代理程式的安全性,解決依賴脆弱問題。商業策略上,Anthropic 獲監管鬆綁並跨足藥物開發,顯示 AI 從軟體服務向生物製藥擴展的野心。然而,BioShocking 攻擊揭露了 API 縮減措施的資安漏洞,提醒業界在保護模型架構上仍需加強。同時,本地運行指南的普及促進了自主部署的發展。整體而言,產業在追求效率與應用深度的同時,必須兼顧安全韌性與合規挑戰,以確保技術的可持續推進。
🔮 趨勢雷達
未來三至六個月,AI 產業將從單純的模型競賽轉向基礎設施優化與垂直領域落地。Anthropic 進軍藥物開發顯示頂尖廠商正加速向高價值垂直領域擴張,軟體即服務模式將讓位於具備實體產出的解決方案。然而,BioShocking 攻擊揭露了當前 API 安全防護的脆弱性,迫使企業在 Q3 前重新評估模型保護策略。此外,本地部署指南的流行反映開發者對數據隱私與自主權的重視,邊緣 AI 工具鏈將迎來新一波投資熱潮,而非僅限於雲端集中式訓練。
延伸閱讀
RunInfra 教學:把 Hugging Face 模型調成生產級 API(定價、流程、實際數字)
RunInfra 教學完整指南:官網 Core 方案自助訂閱 $100/月(最低 $50/月起),新帳號含 $10 免費額度、免信用卡。本文解析優化流程、benchmark receipt、部署方式與 token 計價。
Tamamon 教學Tamamon 教學:跟著 Claude Code 一起長大的 macOS 桌面寵物(免費、免帳號)
Tamamon 教學完整指南:官網完全免費、下載已簽章的 .dmg 即可用,不需帳號或 API key。本文解析安裝需求、成長機制、隱私範圍與互動功能。
喜歡這篇?每天早晨還有更多。
訂閱 5min AI,讓 AI 替你追蹤整個 AI 世界。