回答情况：
提问时间：
问题标签：
2回答
Harness 里路由层和执行器，为什么必须拆开？
react、agent、AIGC、路由
简单查询走直接分发，多步推理走 ReAct，知识问答走固定步骤。我想请教已经落地过的朋友：你们是在什么信号下决定“这件事不该再交给自由循环”？路由层前置了哪些约束之后，执行器才真正省事？
浏览 156提问于2026-08-12
0回答
在智能手机上，ncnn是否支持npu加速？
android、深度学习、腾讯云测试服务、人工智能
想在安卓手机上测试检测模型的推理耗时，目前用的是vulkan加速。想问一下ncnn能否调用npu加速模型推理
浏览 544提问于2022-06-15
2回答
大模型上线，运维只配GPU就够吗？
运维、gpu、集群、腾讯云架构师技术同盟、深圳同盟
谁：SRE与运维团队；何事：大模型推理服务上线；何时：训练完成到生产发布；何地：容器集群、推理网关、监控与成本系统；如何：管资源、发布、容灾、限流、降级和单token成本。
浏览 131提问于2026-09-30
回答已采纳
1回答
罗福莉的模型架构，云原生扛得住吗？
架构、模型、云原生、腾讯云架构师技术同盟、深圳同盟
谁：罗福莉团队与云原生平台；何事：大模型训练推理架构落地；何时：模型版本迭代与扩容期；何地：GPU集群、容器平台、端云协同环境；如何：用调度、弹性、可观测承接MoE与推理服务。
浏览 54提问于2026-09-30
0回答
openvino神经棒不能推理yolov8模型？
python、部署、模型、树莓派
我想在树莓派中部署openvino的环境，用神经棒来推理yolov8模型，但是有人说神经棒推理不了yolov8这类新的模型，我想问一下能不能用
浏览 186提问于2024-03-13
1回答
请教对文章“GaiaStack上的GPU虚拟化技术”中内容的疑问？
GPU 云服务器、腾讯云测试服务、容器、虚拟化、Serverless 容器服务
关于文章中描述的对vGPU方案的测试，想要请教：（2）单容器测试结果的横纵轴，分别表示什么？如下图
image.png
浏览 424提问于2021-09-01
0回答
【功能建议】界面优化：上下文长度显示、Reasoning 强度显示、Skill 库分类显示?
产品、管理、效率、优化、WorkBuddy
上下文长度显示 - 在对话界面显示当前上下文的 token 长度/消耗 - 帮助用户了解已消耗的上下文额度 - 便于用户判断是否需要开启新会话避免上下文膨胀 2.Reasoning 强度显示 - 展示当前模型推理深度/思考强度（如 low/medium/high） - 让用户了解 AI 正在使用何种级别的 reasoning 资源 - 便于用户根据任务复杂度选择合适的推理强度筛选功能，快速定位目标 Skill - 可采用标签、文件夹或侧边栏分类导航等形式
浏览 116提问于2026-05-01
1回答
Hy-MT2-30B-A3B模型私有化部署速度慢怎么解决？
部署、翻译、优化、腾讯技术创作特训营S12#AI进化论、#Techo开发者嘉年华
本地部署了Hy-MT2-30B-A3B这个模型，我的部署环境是一张A100/80G显卡，部署工具是xinference，推理引擎时transformers，用来做翻译。现在发现翻译速度非常慢，一份20页的文档翻译完要25分钟，而且完全没有并发量，单批次送入的长度100-900toekn不等，用在线的api尝试，Hy-mt2-pro，90秒就翻译完了，同样的配置下。
浏览 68提问于2026-08-20
0回答
万亿参数模型开放权重后，中小团队该怎么用起来？
开源、AIGC、量化、模型、同步
7 月 27 日 Kimi K3 的完整权重正式开放，2.8 万亿参数、百万 token 上下文，加上此前美团 LongCat-2.0 开源并同步放出国产卡推理代码，万亿级模型第一次真正摆到了普通团队面前但我的感受是，门槛已经从“能不能拿到模型”变成“能不能付得起推理和编排的成本”——权重是免费的，显存和每一次长上下文调用并不免费。
浏览 60提问于2026-07-27
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号