首页
学习
活动
专区
圈层
工具
发布

#token

AI量产时代,英伟达全栈推理软件栈重构Token成本经济性

GPUS Lady

随着行业AI落地从零散的试点项目,全面迈入规模化、常态化的AI工厂量产阶段,开发者与企业的基础设施选型逻辑正在发生根本性变革。过往聚焦芯片峰值算力、硬件参数堆叠...

300

面试官坏笑:“怎么用 Claude Code 最烧 token?” 我皱眉:“动态工作流?” 她鼓掌:“晚上吃饭细聊”

程序员鱼皮

Anthropic 在 5 月底发布 Claude Opus 4.8 的时候,同步推出了 Claude Code 的 动态工作流 功能。

1200

BioMatrix: 一个模型、一套 token,真正原生统一生物序列、结构与语言

DrugOne

在这个框架下,过去看似完全不同的任务——例如分子描述生成、文本条件分子设计、蛋白 folding、inverse folding、蛋白序列-结构联合生成、分子-...

7710

16-AgentLoop为什么RL训练需要token-in-token-out

anzhsoft

本文的核心判断是:agent RL 不能只保存最终回答文本,而必须坚持 token-in/token-out。训练系统需要的是 prompt token、ass...

3600

太赞同了!|和别人说话就是在消耗 Token

勇哥AI笔记

i人的思考链路更长一句话背后是一整篇thinking有时甚至不想回顾上下文有时也会出现幻觉胡言乱语所以没开会员的就敷衍下行了

4110

Superpowers 6.0发布:让 AI 自己优化自己,Token 省了 60%

用户11563501

Superpowers 是一套技能和指令组合,遵循完整的软件开发方法论,适用于 Claude Code、Codex 等各种编码 Agent。6.0 版本经过 F...

12410

LLM API选型避坑指南:别让Token吃掉你的预算

用户12493922

3010

一行命令砍掉92%的token,GitHub万星Headroom凭什么

乐小野

石化盈科信息技术有限责任公司 | 算法工程师 (已认证)

第三,算成本。以Claude的pricing为例,input token的价格是3/M。一个SRE调试场景,压缩前后每次调用省了60,576个token,按每天...

5410

视频检索 VideoSearch-R1:用8个看不见的token改写搜索结果

唐国梁Tommy

想象一下,你让一个AI助手去一个海量视频库里,找出“一个穿深灰色T恤、在室内给一只黑色鞋子涂乳液的男人”,然后精确报出这个动作发生在视频的第几秒到第几秒。

3900

压缩 128 倍之后:BrainJanus 如何用离散 token 统一脑、视觉与语言

唐国梁Tommy

想象一台机器:给它看一张图,它能猜出你大脑此刻的神经活动大概长什么样;反过来,只给它一段你的fMRI 信号,它能把你当时看到的画面和心里想到的那句话,都还原出来...

4600

白得 2 到 3 倍加速的投机采样机制解析:草稿模型和目标模型是怎么配合的

deephub

LLM 解码很慢,因为生成一个 token 需要每次都从 GPU 内存中加载全部模型权重。700 亿参数的模型意味着 140GB 权重,每一个 token 都要...

8300

Token再这么烧下去,AI迟早要反噬自己

数据猿

本以为他要吐槽扎克伯格管理水平不行,结果却话锋一转:"现在大家都疯了一样在烧Token。"

11400

Claude 面试官:“提示词已死,Loop 称王!” 我冷笑:“不就是炒概念骗 token?” 她激动:“入职!我给你讲一遍”

程序员鱼皮

除了 /usage,Claude Code 还有几个命令也能帮你盯着消耗,比如 /goal 不带参数可以看到当前任务跑了多少轮、花了多少 token,/work...

12710

08-GRPO 为什么能省掉 critic

anzhsoft

第三,长度偏置会更显性。compute_grpo_outcome_advantage()把 outcome reward 的相对 scalar 乘到每个 val...

12410

Token 砍半、速度翻倍:Superpowers 6.0.3 到底升级了什么?

java金融

官方 release notes 里给出的结果很直接:标准 eval 下 token 消耗大约降 50%,执行速度大约提升 2 倍。

17610

新开对话不一定省Token,反而可能更烧钱

Kody-凯达

很多人在使用大模型时有个根深蒂固的认知:“对话太长了,Token消耗太大,我新开一个窗口吧。”这个操作看似合理——清空历史=减少输入Token=省钱。但现实往往...

10000

告别Token焦虑:分享一些省Token指南

Kody-凯达

如果你正在频繁调用大模型API,你一定对“Token消耗”这件事又爱又恨——爱的是它让智能触手可及,恨的是它像水流一样悄无声息地溜走。

14310

如何评价deepseek2026年6月29日再次调整收费标准?

鱼片粥来碗豆腐

今天一早,我的微信技术群和几个核心开发者社区就彻底炸开了锅。所有人都在疯传同一张截图——2026年6月29日,DeepSeek 官方毫无预警地再次发布了全新的 ...

17400
领券