Cloudflare AI网关现在具有一个模型路由器，该路由器使用边缘部署的分类器来评估请求复杂性，以选择最佳模型。通过平衡预期输出质量和代币成本，组织可以在保持性能的同时大幅削减人工智能支出。从我们在人工智能采用过程的每个阶段与公司的对话中，我们看到了一些常见的模式。
首先，当您引入每个新工具、自由分发API密钥并让令牌流动时，会有一个探索期。然后，针对代理编码、非技术工作流、运行和部署代理，为您的组织整合规范工具。随着公司正式采用人工智能，他们希望管理和监督用户的代币支出，但预算和规则只到此为止。
最好的节省是用户从未注意到的节省。今天，我们将发布Cloudflare的Auto Router公开测试版，可通过AI Gateway获得。将模型设置为cloudflare/auto， Auto Router将自动将每个请求路由到足以完成任务的模型，而无需最终用户考虑模型选择。
我们通过OpenCode线束在内部使用Auto Router的早期结果显示，与仅使用OpenAI Sol和Anthropic Claude Opus等前沿型号相比，可节省高达30%的成本。我们为什么要这样做从我们自己在Cloudflare跟踪人工智能支出的经验中，我们了解到管理成本需要多管齐下的方法。
之前，我们讨论了如何围绕人工智能支出设置预算和限制，以及如何通过将员工与其人工智能使用情况相关联来查看整个组织的支出情况。在许多线束中，包括OpenCode、Claude Code和Codex，个人用户仍然手动选择模型。当然，并非所有任务都是平等的，个人最终往往会使用对他们的工作过度消耗的模型。