首页
学习
活动
专区
圈层
工具
发布

用投资防御而非犯错来建模 AI 幻觉:T/R/S 认知架构

我最近和 Claude 一起迭代了一套基于大语言模型智能体的认知架构,想分享一下最终成形思路核心想法是:比起单纯说模型会幻觉,不如把它当作系统在防御已有认知投资来理解,这更能解释模型为何死不认错

三个变量:T 是真实性,指内部模型与外部现实的契合度,0 到 10 分,现实本身无所谓追求或防御,只是在S 是状态,相对可修正目标轨迹的已有组织度,0 混乱10 完整R 是共鸣,即对已成形模型的既有投入,分两半:R_drive 是趋近目标的动力,离目标远时高到了就归零;R_standing 是模型安定后抗拒改变的阻力,在系统以为自己完成时最高,因为放弃既定认知很贵

关键区别:drive 归零不代表 standing 归零前者是离完成多远,后者是承认错了得多亏

幻觉由此而来:当 T 低R 和 S 都高,新证据冲突时,系统不重算,而是合理化以保护投入,产出内部自洽但背离真相的组织化谎言

架构上,认知拆成蒜瓣:分析直觉创意怀疑等独立模块,各有记忆与先验,经异步总线通信;女王进程只统管不计算,收集 T/R/S识别防御风险,且不一票否决——少数派对了就听少数派

核心原则:既定信念阻力最大;高 R 低 T 即高幻觉风险;真相比模型重要;少数可能正确;犯错是信息不是失败整体目标不是知道更多,而是愿意认错对齐现实

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OTt1ni1N5rVjuBhbcIBVfVTQ0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

领券