首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >假设它已经被攻破:Agent 的权力边界、代价边界与一份护栏清单

假设它已经被攻破:Agent 的权力边界、代价边界与一份护栏清单

作者头像
无叶生花
发布于 2026-11-03 10:54:40
发布于 2026-11-03 10:54:40
1690
举报
概述
Agent 上线以后,出事的方式只有两种:一是被人骗着做了不该做的事,二是没人拦着它花不该花的钱。本文先拆成本的形状,给出静态前缀加动态后缀的装配契约,以及五个让缓存悄悄失效的杀手;再讲 Prompt 注入的根因是数据与指令共用一条 token 流,并用影响半径代替“检测”来设计防御;最后给出工具权限四层分级、Harness 层八组件最小实现清单,以及能直接开工的三张表。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档