Azure AI Gateway
介绍
Azure AI Gateway 是微软在 2026 年 11 月 17 日 Ignite 上宣布一般可用的托管网关服务。Tech Community 文章 Azure AI Gateway is now generally available 把它写成:为 AI 应用和 agent 提供一条通往多提供商模型与工具的受控路径,由平台团队在同一处管理访问、策略、成本和用量,而不必自己运营网关基础设施。
官方明确说,它此前是 Azure API Management 中 AI Gateway 层的公开预览,现在成为独立产品,路线图只围绕 AI 访问治理。可以单独使用,也可以和 Microsoft Foundry(构建与运行 agent)以及 Microsoft Agent 365(管理 agent)一起用。应用和 agent 调用网关而不是直接打到模型或 MCP 工具;网关上用 Microsoft Entra ID 或访问密钥做认证,再执行策略、路由并记录遥测。
本条记录的是这次转正为独立产品并 GA 的名字 Azure AI Gateway。不要把它和 Vercel AI Gateway、TrueFoundry Agent Gateway 或 Walmart Agent Gateway 等同名或近名产品混为一谈。
广告
解释
微软给出的背景是:企业 AI 已经不是“一个应用调用一个模型”。团队会同时用多家模型、让 agent 走企业工具,并把 AI 铺到更多业务里。如果凭证、路由、安全和额度仍散落在每个应用里,平台就很难看清谁在用什么、花了多少、策略有没有生效。Azure AI Gateway 把这些控制从应用里抽出来,变成统一的一层。
公开材料列出的能力包括:用你定义的别名调用 Microsoft Foundry、Azure OpenAI、OpenAI、Anthropic、Amazon Bedrock、Google Vertex AI 或任何 OpenAI 兼容端点,从而在不改应用代码的情况下换模型;按优先级、权重或条件做路由和故障转移;把 MCP 服务器、OpenAPI、连接器和 API Management 中的 API 收成工具;以及用 OpenAI 兼容 API 或 Anthropic Messages API 来接入。文章还提到预览中的 Model Router,可按成本或质量做选择。区域覆盖、免费额度和 2027 年 1 月 1 日起的付费计费,以该公告当时的说明为准。
Azure AI Gateway 不是模型本身,而是模型和 MCP 工具前面的治理层。它从 API Management 的一个预览层独立出来,不等于“Azure 上所有叫 Gateway 的东西”。
用法
从 GA 公告 和产品站 ai.gateway.azure.com 进入,再按 Microsoft Learn 上的 Azure AI Gateway 文档创建网关、配置别名、策略和计费。典型用法是:让应用和 agent 只打到网关,由平台团队统一管理可用模型与 MCP 工具、身份、配额和可观测性。
评估时应看它是否覆盖你要用的提供商和 MCP 版本,故障转移是否可测,策略能否按应用或团队限制成本,以及免费额度用尽后的价格。17 个区域、每月 10,000 次免费请求,以及付费开始日期,都以当时官方说明为准。
如果只是在单个 Azure OpenAI 资源上设密钥,或你要找的是 Vercel 的 AI Gateway,那都不是这个 Azure 独立产品名。