Code & Chain · Signal Desk

Google API Gateway 支援串流,AI 应用可沿用既有治理与规格

原始來源Google Developers Blog

摘要

Google Cloud API Gateway 开始以公开预览支援串流,让即时、AI 就绪的 API 可在闸道后运作,且无须改动 API 规格。支援的模式包括伺服器推送事件(SSE)、分块/NDJSON、WebSocket 与 gRPC 串流,连线可维持约一小时。官方称开发者可在串流端点上保留身分验证、API 金钥强制与可观测性,避免把受治理流量与串流流量拆成两套架构。AI 整合方面,模型路由可让单一 OpenAI 相容端点分派到 Gemini、Claude 或 Gemini 模型花园中的 OpenAI gpt-oss 模型,并即时串流回应。预览期间以建立旗标 --enable-strea…

重點整理

  • 开发者可减少另建串流代理层的工程;企业则能在既有身分与金钥政策下开放即时 AI 功能。
  • 已有 API Gateway 治理机制的团队,可把聊天、即时仪表板等串流需求接回同一套政策与监控。

編輯說明

本頁是 Code & Chain 對公開來源的編輯摘要,可能使用 AI 輔助整理並經自動化流程發布。請以原始來源為準;內容不構成投資、法律或稅務建議。