无叶生花
假设它已经被攻破:Agent 的权力边界、代价边界与一份护栏清单
原创
关注作者
腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
无叶生花
社区首页
>
专栏
>
假设它已经被攻破:Agent 的权力边界、代价边界与一份护栏清单
假设它已经被攻破:Agent 的权力边界、代价边界与一份护栏清单
无叶生花
关注
发布于 2026-11-03 10:54:40
发布于 2026-11-03 10:54:40
169
0
举报
概述
Agent 上线以后,出事的方式只有两种:一是被人骗着做了不该做的事,二是没人拦着它花不该花的钱。本文先拆成本的形状,给出静态前缀加动态后缀的装配契约,以及五个让缓存悄悄失效的杀手;再讲 Prompt 注入的根因是数据与指令共用一条 token 流,并用影响半径代替“检测”来设计防御;最后给出工具权限四层分级、Harness 层八组件最小实现清单,以及能直接开工的三张表。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系
cloudcommunity@tencent.com
删除。
系统架构
人工智能
北京同盟
#AI应用
#成本与安全
#思考总结
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档