AI Gateway
监控、控制和优化您的 AI 应用
Cloudflare AI Gateway 为你的 AI 应用提供集中管理和控制。只需一行代码即可连接您的应用，监控使用情况、成本和错误。通过缓存、速率限制、请求重试和模型回退来降低风险和成本。轻松确保可靠性、可扩展性和生产力。
AI Gateway 的优势
控制您所有 AI 应用的成本
将您的 AI 应用连接到 AI Gateway，实现统一的仪表板，并通过使用统计、速率限制和缓存来控制成本。
轻松分析与排除故障
获得对提示词、AI API 请求、错误、token 使用、费用等的可见性。提供日志记录用于审计和排错。
支持最热门的 AI 服务提供商
整合顶级 AI 服务提供商，包括 Hugging Face、OpenAI、Anthropic 和 Workers AI，让您全面掌控自己的 AI 应用。
AI Gateway 如何工作
让 AI 应用可观察、可靠、可扩展
通过将速率限制、缓存和错误处理等功能转移到代理层，组织可对 AI 应用和推理服务提供商应用统一的配置。AI Gateway 位于您的应用和 AI 服务提供商之间，为您提供多供应商的 AI 可观察性和控制。
客户感言
如果没有 AI Gateway，就难以确定哪些应用在使用 OpenAI API 时产生了大部 分费用……我们可以选择限制某些工具的请求数量，以控制成本。”
RightBlogger
API Gateway 主要用例
Cloudflare AI Gateway 帮助您监控、控制和优化您的 AI 应用
监控
通过日志、指标、速率限制、缓存和监控实现实时洞察和可靠性。
控制
只需一行代码，即可轻松连接最受欢迎的服务提供商——Workers AI、Hugging Face、OpenAI、Anthropic 等。
优化
通过自定义缓存优化成本并减少延迟。通过速率限制控制扩展并防止过度活动。