AI Gateway 的下一阶段演进：专为智能体设计的推理层 (opens in new tab)

📌 One-Sentence Summary Cloudflare 宣布将其 AI Gateway 演进为一个统一的推理层，提供单一 API 以访问来自 12 家以上提供商的 70 多种模型，具备自动故障转移、成本监控和支持自定义模型等功能，专为满足构建可靠、快速 AI 智能体的需求而设计。 📝 Summary Cloudflare 正在将其 AI Gateway 转变为一个全面的、统一的推理层，以满足 AI 智能体开发的复杂需求。核心公告是通过一个单一、简化的 API，整合了对来自 12 家以上提供商（包括 OpenAI、Anthropic、Google 和阿里云）的 70 多种模型的访问，使开发者只需更改一行代码即可切换模型。这解决了智能体 AI 中的关键挑战，如供应商锁定、成本分散和延迟问题。关键新功能包括：支持自定义元数据标签的集中式成本监控、提供商之间的自动故障转移以提高可靠性，以及利用 Replicate 的 Cog 技术在 Workers AI 上部署自定义微调模型的“自带模型”计划。该平台利用 Cloudflare 的全球网络来最小化首词元时间，这对实时智能体至关...