首页
学习
活动
专区
圈层
工具
发布

大模型降价背后的“暴力美学”:为什么参数越多反而越便宜?

DeepSeek V4 Flash 拥有 238B 的总参数量,但在推理成本上却比 35B 的 Qwen 3.6 还要便宜 5 倍。这种看似违背直觉的现象引发了技术圈的广泛讨论。核心原因在于,传统的“参数量决定成本”逻辑正在失效,取而代之的是由 KV Cache 优化、稀疏注意力机制以及超大规模集群带来的吞吐量红利。虽然 DeepSeek 总量大,但其 MoE 架构在推理时激活的参数极小,且针对长文本推理做了深度的工程减负。

算力成本的本质不是模型物理体积有多大,而是单位硬件在单位时间内能吐出多少 Token。DeepSeek 走的是“以工程换空间”的路径,通过极端的显存优化,让庞然大物在推理时只占用极少的计算资源。更关键的是市场规模效应:当全行业都在调用 DeepSeek 时,服务商会针对性地堆叠 B200 等顶级集群并跑满 Batch Size,通过极高的并发量摊薄单次推理的固定成本。相反,一些缺乏大规模调度的中小型模型,因为没法在基座层面跑出规模经济,反而成了昂贵的奢侈品。在 AI 领域,好用且用的人多,本身就是降价的硬道理。

x.com/jpschroeder/status/2073412230918344835

#人工智能##AI创造营##DeepSeek##大模型推理##算力经济#

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OiyccIFXVKkdnuk_MN9MLKUg0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券