首页
学习
活动
专区
圈层
工具
发布

#runtime

NativeAOT 发布 .NET CLI 实测:启动快 7 倍、内存省 5 倍,但反射序列化会直接崩

步步为营DotNet

Agent 每调一个工具往往就 fork 一个 CLI:调 100 次,就起 100 个进程。这时候 dotnet mytool.dll 那 20 多毫秒的启动...

6310

零依赖解析 GGUF 头实测:291 个 tensor 的清单只花 7 微秒,99% 的时间耗在 tokenizer 词表

步步为营DotNet

一个 469MB 的 GGUF 模型文件,想在 C# 里读出"有多少层、隐藏维度多大、权重怎么排",需要多久?

11010

给 LLM 拼 Prompt 实测:字符串插值 60 纳秒,Scriban 渲染一次 8~26 微秒,真正的差距不在速度在分配

步步为营DotNet

每请求给 LLM 构建 prompt,主流三种写法:字符串插值、StringBuilder、模板引擎(本文用 Scriban 7.5.3)。我用 .NET 10...

7500

ASP.NET Core 推 LLM token 流实测:每帧 flush 只花 0.14 微秒,200 并发却只快 7.7 倍

步步为营DotNet

用 ASP.NET Core 给大模型做 token 流式输出,最常见的三个焦虑是:每次 flush 是不是很贵、能不能扛几百个并发连接、慢客户端会不会把内存吃...

12110

官方 C# SDK 写 MCP Server 实测:一次工具调用 60 微秒,冷启动 160 毫秒,50 个工具 14KB schema

步步为营DotNet

MCP(Model Context Protocol)现在几乎是 AI 客户端接工具的事实标准,.NET 这边有官方包 ModelContextProtocol...

15810

TensorPrimitives 实测:10 万条 768 维向量检索 7ms 扫完,但 10 核并行只快 2.5 倍

步步为营DotNet

本机(.NET 10.0.5 Apple M4 10 核 / macOS arm64)上,10 万条 768 维 float 向量的暴力余弦检索,四个数字:

12310

new 出来的对象不一定上堆:.NET 10 JIT 栈分配实测,以及它失效的三条边界

步步为营DotNet

.NET 10 的 JIT 会做 object stack allocation:不逃逸的小对象,new 出来直接放栈上,甚至字段被提升进寄存器,一次都不碰 G...

11710

Java和Go都拍胸脯说"内存我包了",可它们到底是怎么下手的?

蛋先生DX

腾讯 | 前端研发 (已认证)

温馨提示:另有配套视频版,附带图解演示,观感不同,欢迎到各大视频平台搜索同名标题或【蛋先生说识】

25910

为 Agent 而生的云原生底座:TCS Agent Runtime 设计与实践

腾讯专有云

2026年7月29日,在"可信云大会暨首届Token云服务大会"上,腾讯专有云正式发布面向私有化场景的智能体运行底座——TCS Agent Runtime。

23610

如何构建端云一体的Agent安全沙箱,同时覆盖企业服务器和员工个人电脑

极客洞察

企业开始引入AI Agent之后,一个变化会很快出现:Agent不再只运行在统一平台里,也会出现在员工自己的工作环境中。中心平台里的Agent负责批量任务、系统...

44810

一个月手搓 JavaScript runtime

掘金安东尼

我做了一个叫 Ant 的小型 JavaScript runtime(大概 2MB)。源码、测试和文档都在 GitHub:github.com/themackab...

26810

AI Runtime 正在失控:为什么未来企业一定需要 AI FinOps Control Plane?

heidsoft

从 ChatGPT 到 Claude,从 GitHub Copilot 到 OpenAI Operator,从 AI Agent 到企业级智能体平台,整个行业正...

25910

拆解 OpenClaw Agent Runtime:一个开源 AI Agent 执行引擎是怎么炼成的

唐国梁Tommy

如果说大语言模型是 AI Agent 的「大脑」,那么 Agent Runtime 就是它的「神经系统」——负责接收外部刺激、协调大脑思考、驱动肢体行动、并将结...

46310

Go runtime.AddCleanup:更稳妥的兜底清理

技术圈

文件、Socket、GPU 句柄和 C 内存都不受 Go 垃圾回收器直接管理。理想情况下,调用方会及时执行 Close,但复杂控制流中总有可能遗漏。过去,库作者...

21500

Go runtime.AddCleanup:更稳妥的兜底清理

技术圈

文件、Socket、GPU 句柄和 C 内存都不受 Go 垃圾回收器直接管理。理想情况下,调用方会及时执行 Close,但复杂控制流中总有可能遗漏。过去,库作者...

21500

腾讯云发布Agent Runtime,以存算分离破解部署困境

IT前沿资讯站

腾讯科技(深圳)有限公司 | 数据分析 (已认证)

传统架构无法满足AI Agent长生命周期运行需求 当前,基于微服务和Serverless(如Kubernetes容器、云函数Lambda)的架构在处理AI A...

52010

腾讯云Agent Runtime沙箱:解决单机单用户模型下的规模化运维与成本瓶颈

IT资讯研究所

腾讯科技 | 研究员 (已认证)

腾讯云Agent Runtime沙箱针对Agent“1对1”异构有状态架构带来的弹性瓶颈、运维失效、安全隐患等规模化落地痛点,通过自研无状态调度器、资源池化、快...

68910

腾讯云Agent Runtime沙箱:破解Agent规模化落地的弹性与运维难题

IT前沿资讯站

腾讯科技(深圳)有限公司 | 数据分析 (已认证)

行业挑战:从同质服务到异构智能体的运维范式转移 企业部署AI Agent时面临三大核心瓶颈:1)弹性瓶颈,传统微服务架构的“1服务对N用户”模式不适用于Agen...

46010

腾讯云Agent Runtime:Agent原生基础设施技术概要

IT前沿资讯站

腾讯科技(深圳)有限公司 | 数据分析 (已认证)

一、 产品定位与核心亮点 腾讯云Agent Runtime 是一项专为AI Agent设计的原生基础设施服务。其核心技术属性是通过提供会话独占运行环境,解决Ag...

59710

Token Runtime:成本控制与性能优化

安全风信子

作者: HOS(安全风信子) 日期: 2026-05-24 主要来源平台: GitHub 摘要: Token是AI能力的计量单位,也是成本的核心来源。一个...

72210
领券