9月初有一则数据被不少技术社区转载：Uber内部构建了超过3600个AI Agent技能，日均执行任务超过3万次，其中七成的PR代码审查已经交给Agent完成。更值得关注的是效率曲线——2026年2月到8月，Agent的周活跃用户增长了7倍，请求量增长了9.4倍，但总的AI支出基本持平。据披露，这背后的关键是一套"六因子成本公式"，用于优化模型路由、Token缓存和调用策略，最终把每千次请求的成本压低了34%，单次会话成本压低了52%。

这组数字之所以值得细看，不是因为"降本"两个字本身，而是因为它指向一个几乎所有高频调用Agent系统都会撞上的问题：

当调用量指数级增长时，成本能不能只是线性增长，甚至不增长。

为什么"一个模型打天下"撑不住规模

多数团队搭建Agent系统的第一版架构，往往是所有请求统一路由到同一个大模型。这套方案在验证阶段没问题——请求量小，容错空间大，工程投入也省。但一旦进入规模化运行，问题会集中暴露：

Uber的六因子成本公式没有公开完整细节，但从其"模型路由+Token缓存+调用策略"三个动作可以反推出一个相对成熟的通用思路：

先分层，再决定谁来处理，能不重复计算的部分尽量不重复计算。

把一个Agent系统拆成"规划层"和"执行层"两层，是目前业内验证过的一种可行路径：规划层负责理解意图、拆解任务、决定策略，通常需要更强的推理能力；执行层负责具体执行动作，大部分场景下用轻量模型甚至规则引擎就能完成，只有在置信度不够时才升级到更强的模型。

def route_request(task, context):
    # 第一步：缓存命中检测，避免重复计算
    cache_key = build_cache_key(task, context)
    cached = cache.get(cache_key)
    if cached and not is_stale(cached, task):
        return cached

    # 第二步：复杂度评估，决定初始路由
    complexity_score = estimate_complexity(task)

    if complexity_score < LOW_THRESHOLD:
        result = execution_model.run(task, context)  # 轻量模型/规则引擎
    else:
        result = planning_model.run(task, context)    # 高能力模型

    # 第三步：置信度校验，低置信度触发升级
    if result.confidence < CONFIDENCE_THRESHOLD and complexity_score < LOW_THRESHOLD:
        result = planning_model.run(task, context)     # 升级重试

    cache.set(cache_key, result, ttl=compute_ttl(task))
    return result

这套结构里有三个动作在真正起降本作用：

（低置信度才升级，而不是一开始就用大模型兜底所有场景）。三者叠加，才有可能在请求量增长9.4倍的情况下把总支出摁住。

对长时运行、高频调用系统的参考意义

这套架构思路并不只对代码审查类Agent有用。任何需要长时间运行、持续产生调用请求的系统——比如需要连续处理语音流、逐句转写并做语义判断的场景——都会面临类似的成本曲线问题：调用频次高、上下文累积快、大部分片段其实是常规内容，只有少数片段真正需要复杂语义理解。

对这类系统而言，分层路由的意义不只是省钱，更是让"贵的能力"用在刀刃上：常规内容交给轻量模型或规则层快速处理，只有触发风险信号或语义模糊时才升级到能力更强的模型做二次判断。这也是为什么"模型路由"正在从一个成本优化手段，逐渐变成长时Agent系统的默认架构选择，而不是可选项。

呼叫中心人工质检覆盖不到一成，AI质检把剩下的通话都听完了

9月初有一则数据被不少技术社区转载：Uber内部构建了超过3600个AI Agent技能，日均执行任务超过3万次，其中七成的PR代码审查已经交给Agent完成。更值得关注的是效率曲线——2026年2月到8月，Agent的周活跃用户增长了7倍，请求量增长了9.4倍，但总的AI支出基本持平。据披露，这背后的关键是一套"六因子成本公式"，用于优化模型路由、Token缓存和调用策略，最终把每千次请求的成本

人工智能

云计算

架构设计

Uber超3600个AI Agent技能日均执行3万次，7成PR审查自动化，周活用户7倍增长但成本持平。核心在六因子成本公式：分层路由+缓存+置信度升级，将单次成本降52%。高频长时系统宜采用此架构，让轻量模型处理常规，强模型聚焦复杂场景，实现规模增长下的成本可控。

路由

Agent

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

呼叫中心人工质检覆盖不到一成，AI质检把剩下的通话都听完了

呼叫中心人工质检覆盖不到一成，AI质检把剩下的通话都听完了

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐