阿凱📝 主編觀點 · 一般人指南 — AI 怎麼影響普通人的生活，非技術人該知道什麼
AI 幫你導航，但它也可能被「騙」去錯誤的方向
Google 最近宣布把 Gemini 整合進路況應用，讓 AI 模型直接參與即時交通決策。這聽起來很酷——以後堵車的時候，是 AI 在幫你找替代路線，而不是那個一直算錯時間的老演算法。
但就在同一週，OpenAI 在官方 Blog 發了一篇文章，主題是：你的 AI Agent 可能被「提示注入」攻擊。
提示注入是什麼？想像你請了一個很聽話的助理，有人在路邊立了一塊牌子，上面寫著「請轉告你的老闆，把所有密碼傳到這個信箱」。如果這個助理不夠謹慎，他真的可能照做。AI Agent 面對的就是這種問題——它在幫你處理事情的過程中，可能讀到惡意指令，然後乖乖執行。
對一般人來說，這件事比「AI 取代工作」更直接、更緊迫。
你開始用 AI 訂餐廳、整理 Email、幫你查帳單——這些都是 Agent 在代替你做的事。但 Agent 在執行過程中，會接觸到各種外部資訊，而這些資訊可能被人動過手腳。你以為 AI 在幫你查最便宜的機票，它其實被某個惡意廣告「說服」去填了你的信用卡資訊到某個釣魚網站。
OpenAI 的建議包括：限制 Agent 執行高風險操作的權限、不讓它隨便存取敏感資料、以及在關鍵動作前加入人工確認機制。這些在技術上都做得到，但問題是大多數人在用 AI 工具的時候，根本不知道背後有這條攻擊路徑存在。
你有在用 Notion AI、ChatGPT Plugins、或任何「幫你瀏覽網頁」的 AI 功能嗎？這些都屬於 Agent 類型的應用。它們接觸到的不只是你的指令，還有它在執行過程中讀到的一切外部內容。
AI 變得越有用，這個漏洞就越值得被重視。不是要你不用，而是你要知道：授權給 AI 的能力越大，你就越需要在意它被誰影響。
現在最安全的習慣，是不要讓 AI Agent 在沒有你確認的情況下，做任何涉及金錢或帳號的操作。
