暂无搜索历史
不少团队在业务请求量持平的情况下,突然发现大模型 API 账单翻了一倍,排查方向却不是“访问量大了”,而是 Tokens 被隐形消耗、缓存未命中和 GPU 空转...
把推理框架的默认配置直接搬上生产,大概率会在某个深夜被首字延迟的毛刺或吞吐瓶颈拍醒。vLLM的连续批处理机制的确将GPU利用率推到了传统方案难以企及的水平,但它...
腾讯云轻量数据库虽然大幅降低了运维门槛,但 CPU 使用率突然飙高仍然是最常见的棘手问题。这类情况通常不是硬件层面的故障,而是某个慢查询正在大量消耗计算资源。打...
QPS上不去这件事,在腾讯云轻量数据库用户里不是个别现象。不少人发现 CPU 没跑满、内存也还有余量,可查询吞吐量就是被钉在一个尴尬的水平线上。想找到能让 QP...
当你在业务低谷期突然收到「数据库连接超时」告警,或者开发环境调试时反复报出“Can’t connect to MySQL server”这类错误,说明客户端与腾...
小冰跃动 | 架构师 (已认证)
code for life . 用代码解决碰到的问题。
科大讯飞 | 资深架构师 (已认证)
江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验
腾讯 | 开发工程师 (已认证)
大数据领域专家
深耕青少年心理和医疗大健康领域,融合AI大模型的本地化应用,对大模型有深度的应用经验和使用体验。
拥有多年互联网企业技术总监经验,深耕技术实践与管理。已出版十余本专业著作,专注前沿技术落地。
主要致力于AI效能研发体系规划、混合云基础架构规划、微服务集群安全可靠性监控体系建设。
十年互联网老兵,在多领域有丰富技术经验,运营有公众号“XIN洞察”
Apache Shenyu 社区 PMC, Apache Hertzbeat 社区 PMC, Alibaba Spring Ai Alibaba 社区 PMC
B站也叫这个名,开源项目:python-office
苍生涂涂,天下缭燎,诸子百家,唯我纵横。
关注「腾讯云开发者」公众号,将获得:10元无门槛代金券、洞察腾讯核心技术、剖析业界实践案例。
暂未填写公司和职称
暂未填写个人简介
暂未填写技能专长
暂未填写学校和专业