昨天读了 Simon Willison 的一篇文章:2026 in LLMs (so far),这个博客我基本每次必看,写的很不错。
拿真实记录一对,这三行都有问题。智谱的成功回答里有 30% 超过 120 秒,元宝有 14%。超过 4,000 字的回答,智谱占 23.6%,DeepSeek ...
假设你给个人资料助手两份读书会通知,问报名截止日期。把两份正文一起交给模型,就能让它依据这些材料回答。
多语言 GEO(Generative Engine Optimization)是指面向不同语言用户的 AI 搜索与问答场景,优化技术文档的语言组织、页面对应关系...
我第一次给 AI 回答里的引用做排行,排在最前面的一项是 https://mp.weixin.qq.com/s,后面一个参数都没有。这当然不是哪篇文章,是一千多...
想象一个学生,背过很多书,但有两个毛病:记不准细节,也记不住昨天才发生的事。你问他"公司上季度营收是多少",他可能凭印象编一个数字——听起来合理,其实是错的。大...
If you've been building with LLM agents for a while, you've probably noticed the...
Agent 用着用着,对话历史从几轮涨到几十轮,Token 消耗从几千涨到几十万——成本飙升,响应变慢,还可能撞上模型上下文窗口上限。 这是 2026 年 Ag...
摘要:把 LLM 接进一个已有 22 年沉淀的事务型 CRM,真正的难点不是让模型看懂表格,而是让一个概率组件产出的判决,安全地穿过解析、实体解析、引用完整性、...
LLM 开发工程师不是训练大模型的算法岗,而是把模型能力工程化为可靠产品的人:检索、编排、结构化输出、评估、成本与延迟优化。入行的分水岭只有一条——能不能交付一...
过去两年,我们解决这个问题的方式很“工程师思维”:既然模型记不住,那我就给它外挂一个知识库(RAG),或者把几十页的文档塞进长上下文(Long Context)...
之前已经讲过按照固定chunk大小切块,和按照段落分明切块。现在补齐另外两种模式。
做 AI 回答监测,大家讨论得多的是采样:问哪些问题、问几次、哪些平台。我自己踩坑最多的却是采样之后的那一步:拿到一段回答,怎么判断它「提到了某个品牌」,是好话...
对于云端 AI 应用,LLM 可解释性不能只看输出是否连贯。2026年10月的 arXiv 2610.02480 讨论了 LLM 自我解释不忠实问题:模型生成的...
这次不把通知全文直接放进问题里。我们给助手两个工具:一个查找通知,一个读取正文。模型先看到问题和工具说明,再根据每次取得的结果选择下一步;Python 程序负责...
助手可以搜索通知、读取正文。每次工具执行后,程序把结果交给模型,让模型决定继续查,还是给出回答。
多 Agent 代码审查系统的成本会随模型调用次数和上下文长度增长。即使大量输入命中缓存,反复读取会话历史仍会产生较高费用。
原文:https://mp.weixin.qq.com/s/FyxeVIPXFxgJKueRkozMIw
最近在做个人知识管理,遇到一个绕不开的问题:播客这种内容形态,信息密度不低,但留存率极差。 一个小时多的音频,听完能记住的东西不到50%。想回头找某个观点,只...