API Gateway 支援串流功能：無需修改規格即可實現即時與 AI 準備就緒的 API

API Gateway 支援即時串流，不必更動 API 規格

Google Cloud 宣布 API Gateway 的串流支援進入 Public Preview 階段，原生支援 Server-Sent Events (SSE)、WebSockets、gRPC 以及 chunked transfer encoding 等即時串流協定。開發者可以在閘道器後方路由長連線與雙向串流，同時維持一致的驗證機制與可觀測性，而且不需要修改現有的 API 規格。對依賴即時數據傳輸的 AI 應用與代理程式來說，這代表可以在不犧牲治理能力的情況下，建立符合現代互動模式的 API 架構。

過去十年，API 呼叫多被視為單一交易：客戶端發送請求，等待完整回應。但隨著 AI 模型逐 token 生成回應、代理程式回報多步驟任務進度，以及即時協作與儀表板的需求增加，傳統模型已無法涵蓋所有流量類型。此前開發者得二選一：把 API Gateway 放在 API 前方就得放棄串流功能，或是繞過閘道器以保留串流能力，卻因此失去驗證與監控等關鍵治理功能，基礎設施也被切成受控與不受控兩部分。這次更新處理的正是這個痛點，讓串流端點可以和其他服務共用同一個閘道器與政策。

支援多種串流模式與模型路由

API Gateway 現在支援現代 API 依賴的各種串流模式。SSE 是向瀏覽器或客戶端 SDK 串流模型輸出的事實標準，也是多數 OpenAI 相容聊天完成 API 的傳輸基礎。系統支援 chunked transfer encoding 與 HTTP 回應串流（包含換行分隔 JSON，即 NDJSON），後端產生的回應會即時傳遞，而不是緩衝後一次交付。WebSockets 提供全雙向連線，適用於聊天、協作與即時通知；gRPC 串流則支援伺服器端與雙向串流，讓閘道器可以代理先前無法代理的 gRPC 服務。串流連線最長可維持一小時，建議客戶端實作重連邏輯，以確保會話穩定。

在 AI 應用方面，API Gateway 加強了與 Gemini 平台的連結。透過模型路由功能，閘道器可將 Gemini 平台 Model Garden 中的 Gemini、Claude 及 OpenAI gpt-oss 模型回應即時串流回傳，也支援託管在其他位置的後端串流。客戶端因此得到標準化的串流介面，開發者則能集中控管模型存取權限與政策。API Gateway 與 Apigee、Gemini 平台的 Agent Gateway 並列，其中 API Gateway 是通往 Google Cloud AI 閘道能力的輕量級入口，團隊可依需求選擇合適的閘道器，或搭配使用，例如讓 Agent Gateway 處理嚴格的安全治理，再把請求交給 API Gateway 進行模型路由。

規格不變與確定性主機名稱

這次更新最明顯的特點，是開發者不必學習新產品或資源類型。串流不是獨立的 API 規格，不需要新增擴充功能或特定註解，現有描述 API 的文件同樣適用於串流操作。所有既有功能，包括 API Key 強制執行、JWT 驗證（涵蓋 Firebase、Auth0、Okta 及 Google ID）、服務帳戶驗證、Cloud Logging 與 Monitoring 整合，以及路徑範本與請求路由，都能照常運作。

此外，閘道器現在提供確定性的預設主機名稱，格式為 `GATEWAY_ID-PROJECT_NUMBER.REGION.gateway.dev`（例如：`streaming-test-12345.us-central1.gateway.dev`）。過去預設主機名稱含有隨機雜湊，URL 在建立前無法預測，連帶影響 CI 管線、防火牆白名單及基礎設施即程式碼的管理。新機制讓主機名稱成為已選取值的純函數，開發者可以在建立閘道器前生成、套用範本並提交至原始碼控制；在相同專案與區域重建時，也會得到相同的 URL，大幅簡化環境設定與基礎設施管理。

Public Preview 注意事項與開始使用

在 Public Preview 期間，串流功能需在建立閘道器時透過 `--enable-streaming` 旗標啟用。現有閘道器無法就地轉換，必須建立新閘道器來測試。部分功能，如透過 Serverless NEGs 與外部 Application Load Balancer 設定自訂網域、透過 Cloud 控制台啟用串流，以及 Terraform 支援，將在 Preview 期間陸續推出。另外要注意，延遲指標會反映串流持續時間，請求延遲測量的是串流生命週期，而非首字節時間，這可能改變長連線延遲圖表的形狀。

已經在使用 API Gateway 的開發者，可以建立新的啟用串流的閘道器，指向現有發出 SSE 的後端，就能看到事件逐步抵達，不需要任何規格變更。API Gateway 文件提供了部署 API 至閘道器以及串流功能等相關說明。