贺公子之数据科学与艺术
16|安全:Policy Engine + HITL + Least Privilege
原创
关注作者
腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
贺公子之数据科学与艺术
社区首页
>
专栏
>
16|安全:Policy Engine + HITL + Least Privilege
16|安全:Policy Engine + HITL + Least Privilege
贺公子之数据科学与艺术
关注
发布于 2026-10-12 17:22:31
发布于 2026-10-12 17:22:31
19
0
举报
概述
TL;DR:Agent 一旦拥有执行权限,LLM 的不可靠推理就会成为真实的攻击面。安全决策必须交给确定性的 Policy Engine,而非模型自身判断。本文提出的 Command Safety Engine 遵循“AI 提议 → 策略评估 → 风险分级 → 人工审批(必要时)→ 执行网关”的决策链路,通过 AST 解析、RBAC、四级风险模型和 error budget 检查,确保 CRITI
文章被收录于专栏:
架构之路
架构之路
人工智能
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系
cloudcommunity@tencent.com
删除。
卓越架构师最佳实践征文#场景解决方案
AIOps最佳实践
CloudQ共创征文
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档