最近听了田渊栋关于 RSI 的访谈,又陆续看了 Darwin Gödel Machine、AlphaEvolve 等相关研究,感觉这个方向值得聊一聊。过去几年,...
2026年10月26日,微软执行副总裁兼首席人力官 Amy Coleman 发布了一封面向员工的公开信,主题为 Introducing a Voluntary ...
过去,我们争夺职位、学历、资源和资本。因为这些东西稀缺,拥有它们,就意味着竞争优势。
摘要: 一个模型能回答问题,离它稳定服务真实业务,还有很长一段工程距离。AI Infra 就在填补这段距离:让数据持续供给,让训练高效运行,让推理扛住流量,让算...
围绕 AI(Artificial Intelligence,人工智能)与就业,我最初的理解很直接:一些技术复杂度不高、主要依赖耐心和时间投入的工作,正在失去原有...
DeepSeek 再次开源了线上生产环境的核心推理引擎 DeepInfer。Apache-2.0,21K Star,4个commit,整体给的很实在:batch...
一笔订单同步超时之后,应该立即重试,还是先查询远端任务?本地写着“失败”,远端却可能已经完成;重试器继续提交,又可能制造重复订单。异步集成最难处理的,往往是这种...
摘要: 当 AI 能够帮助更多人写方案、做分析、产出内容,个人在企业中的价值该如何体现?我认为,品质、态度与责任心,会通过持续交付和深度交付变得具体。本文从日常...
摘要: 调度计划确定之后,vLLM 如何把计算高效地交给 GPU?本文解释 Attention 后端、FlashAttention、编译优化和 CUDA Gra...
摘要: 面对长短不一的生成请求,vLLM 如何兼顾并发、响应速度与有限显存?本文从连续批处理出发,用 token 预算和显存算例解释 Chunked Prefi...
摘要: 一次大模型请求从进入接口到返回文字,背后经历了哪些步骤?本文沿着 vLLM 的请求链路,串起分词、Prefill、Decode、KV Cache、模型前...
这本书写于1997年。那时互联网刚刚兴起,没有比特币,没有智能手机,更没有今天的大模型。但作者已经开始讨论数字货币、远程工作、虚拟企业,以及个人如何摆脱传统组织...
这不是危言耸听,这是我们每个人工位上正在发生的事。真正被冲击的,不是"程序员"这个身份,而是"只会写代码"这个定位。过去十年,我们靠一句"这个我能实现"立足;而...
大模型推理中的 PD 分离:计算特征、KV Cache 传输与引擎实现 中对 vLLM、SGLang 与 MindIE 的 PD 实现的做了简单的说明,本篇在前...
科大讯飞 | 资深架构师 (已认证)
第一条,DeepSeek-V4.1-Flash-1017 发布。第二条,开放自研搜索 API。
这里的返祖,不是回到原始社会。而是那些被工业时代压下去的东西—个人、师徒、小团队、部落式协作、现场判断,甚至按任务出猎的工作方式—可能重新变得重要。
某中级人民法院立案庭的法官助理,把在线诉讼平台上一个新签收的起诉材料包交给 Agent:“看看材料齐不齐,处理一下。”Agent 读完起诉状、证据清单和十几页扫...
早上打开电脑,一份 Agent 日报已经躺在文件夹里,运行日志的最后一行写着 success。如果只看这两个信号,任务似乎已经完成。