每隔一段时间，企业的 AI 项目负责人看着账单总会陷入沉思，看到Token 用量又涨了，与此同时流程跑的还是那几个固定的任务，无非是下载几张报表、字段对齐、金额加总、归档并发通知，看吧，任务几乎没变，账单却一直在涨。

这件事的问题，其实主要出在分工上。

Gartner 在 2026 年相关分析中指出，Agentic Workflow 完成一项任务消耗的 Token，可能达到普通生成式 AI 交互的 5—30 倍。Agent 需要反复规划、调用工具、读取返回结果、校验甚至重试，一次业务请求很容易变成连续多轮模型调用。

所以企业碰到智能体 Token 消耗过高时，先不要着急，我们可以先看看这三件事：

这三件事对应的优化方式并不相同，固定流程可以交给代码、API、RPA 或工作流，长文档和大批检索结果可以先解析、筛选，重复上下文可以评估缓存，换轻量模型则主要影响价格。

重复规划：固定流程不必每次调用大模型

一个完整的智能体流程，通常同时包含理解、判断和执行。

比如解释一段异常数据为什么偏离历史均值，从政策文件中筛出适用于当前企业的条款，或者判断一封客户邮件属于投诉还是咨询，这些任务需要模型理解语义和处理变化。

另一部分工作则很稳定：A 列除以 B 列、删除重复记录、生成固定格式 Excel、按照统一名称保存到指定目录。

每天从三个业务系统取数，字段映射关系固定，汇总逻辑固定，归档路径也固定。流程搭建第一天已经确认过的步骤，如果每次运行还要重新让模型决定“先取什么、怎么算、存哪里”，Token 就会不断消耗在重复规划上。

这类步骤其实可以直接交给程序和自动化工具。扣子的代码节点支持接收上游参数，用 Python 或 JavaScript 做字段处理；百度 AppBuilder 的工作流也可以把固定逻辑、API、知识库和模型节点放进同一条流程里。

企业原有自动化场景里已经有不少类似实践，莲藕健康公开披露的应用就包括平台推广日报、客服日报和月度数据获取。

对于已经跑稳定的高频任务，模型可以继续负责识别“昨天”“华南区域”“销售异常”等自然语言参数，后面的取数、去重、汇总、归档和通知则继续沿用既有流程。

国内流程自动化厂商也在沿着这条路线演进，比如金智维就将大模型的意图理解、任务拆解与结构化流程、RPA 执行、规则校验组合在同一条业务链路中，已经验证过的高频流程可以继续封装、复用。这类“构建阶段引入智能能力、执行阶段复用成熟流程”的方式，对日报、对账、数据归档、信息搬运等高频任务尤其适用。它节省的并不是所有 Token，而是

减少了稳定执行环节反复调用大模型进行规划的必要。

输入过量：长文档先筛选，再交给模型

有些流程模型调用次数并不多，Token 依然很高，问题通常出在输入量。

比如在合同审查场景中，用户原本只想确认合同里有没有自动续约条款，系统却把几十页正文一起送进模型；知识库检索出十几段材料后全部拼进 Prompt，最终真正影响答案的可能只有其中几句话。

这类消耗发生在进入生成模型之前。

扫描件可以先做版面、文字和表格解析，长文档根据问题检索相关内容，再对候选片段进行筛选和重排。

PaddleOCR 团队的 PP-StructureV3 可以将文档中的版面、文字、表格等内容转成结构化结果；Rerank 工具则可以继续调整候选材料与当前问题的相关性顺序。于是生成模型接收到的，不再是整份文件，而是和当前问题直接相关的原文片段及必要上下文。

这也是 RAG 场景里一个经常被忽略的成本来源：

检索不仅要解决“找不找得到”，还要控制最后有多少内容真正进入模型。

不过输入不能为了省 Token 一味压缩。合同金额、日期、否定条件、适用范围和例外条款一旦被裁掉，后面的判断可能直接改变含义。上下文压缩本身可能产生新的模型消耗，金额、时间范围、关键约束和原始记录位置仍然需要保留。所以这里的优化目标更接近

“减少无关输入”，而不是简单追求更短。

三种“省”：减少Token、减少计算、降低费用要分开看

企业讨论“Token 降本”时，经常把这几种不同的优化方案混在一起：

把固定计算、格式转换、数据搬运等步骤交给代码、API 或 RPA，可以减少原本用于这些步骤的模型调用。长文档先检索、筛选和重排，也能缩短真正进入生成阶段的上下文。这类调整会直接影响 Token 数量。

DeepSeek 等模型服务已经提供前缀缓存机制。当系统 Prompt、背景材料等输入前缀高度重复，并满足缓存条件时，可以复用已有计算。缓存命中的输入依然有相应 Token 统计和计费口径，它减少的是重复计算，并不等于把上一次答案直接拿回来。

轻量模型、不同推理模式或者供应商提供的批处理优惠，都可能让最终账单下降。但同一条 Prompt 从高价模型换成低价模型，Token 数量本身可能完全没有变化。因此企业看到“成本下降”后，还要继续看看这些：到底是模型少调用了，输入变短了，缓存命中了，还是模型单价变便宜了？这几类优化可以一起使用，但不能放进同一个“Token 降低比例”里计算。

工具过多：Agent可能把Token花在理解工具上

Agent 接入的工具越来越多以后，还有一类消耗很容易被忽略。

每个工具都有名称、参数、说明和返回格式，模型在决定调用哪个工具之前需要理解这些定义，工具执行完成以后，又可能返回一大段 JSON。

如果一次订单查询返回上百个字段，而后续任务只需要金额、状态和更新时间，把整份结果原样交给模型，只会增加上下文。

Tomasz Tunguz 在 2025 年做过一次个人工程实验，将原来的多个细分工具重新整合后，他测试中的 Token/Op 明显下降，同时任务成功率有所提升。这个结果为我们提供了一个很有价值的观察：

工具数量、工具说明和返回结果本身，也会成为 Agent 的上下文成本。

企业流程里可以用更简单的方式处理这件事，例如按需加载工具，接口结果先由程序过滤，只把后续任务需要的字段传给模型。模型调用的次数可能没变，但每轮需要理解的信息少了。

降Token之后，还要看完整运行成本

一条流程从 10 万 Token 降到 5 万，看起来已经节省了一半，但如果新增的 RPA 脚本需要频繁维护，OCR 识别问题带来更多人工复核，或者 RAG 裁掉了关键证据，最后又触发完整重试，这个数字就不够用了。因此验证 Token 优化，最好放回一批完整任务里比较。

可以选取正常、边界和异常样本，在相同业务完成标准下，同时观察以下这些数据：

建议用同一批任务建立改动前后的比较基准，避免只展示热缓存、顺利用例或者某一次调用的 Token 降幅。

对企业来说，Token 最终只是完整运行成本的一部分，如果每天都在执行同一套报表下载、字段计算和系统操作，这些稳定动作可以逐步沉淀为程序、API、RPA 或流程资产；文档和检索结果在进入模型前先筛选；真正出现新问题、新材料和异常时，再调用模型的理解和判断能力。这样拆开以后，Token 账单里哪些钱花在必要的智能上，哪些钱只是花在重复执行上，就会清楚很多了。

Agent Token优化怎么做？代码节点、工具调用、RAG检索与Prompt上下文管理

人工智能

企业AI项目Token成本飙升，核心在于分工不当。Agent任务中固定流程、长文档输入及工具调用占大量消耗。优化需区分减少Token、减少计算和降低单价：固定步骤交代码/RPA，文档先检索筛选，上下文缓存复用，工具按需加载。建议以完整任务基准评估模型调用次数、Token量、失败率等，实现智能与执行成本分离。

数据归档

JavaScript

智能体

DeepSeek

Python

Agent

JSON

2026上云采购 | AI焕新·智启新局

lexiang

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

Agent Token优化怎么做？代码节点、工具调用、RAG检索与Prompt上下文管理

Agent Token优化怎么做？代码节点、工具调用、RAG检索与Prompt上下文管理

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐