首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >16|安全:Policy Engine + HITL + Least Privilege

16|安全:Policy Engine + HITL + Least Privilege

作者头像
贺公子之数据科学与艺术
发布于 2026-10-12 17:22:31
发布于 2026-10-12 17:22:31
190
举报
概述
TL;DR:Agent 一旦拥有执行权限,LLM 的不可靠推理就会成为真实的攻击面。安全决策必须交给确定性的 Policy Engine,而非模型自身判断。本文提出的 Command Safety Engine 遵循“AI 提议 → 策略评估 → 风险分级 → 人工审批(必要时)→ 执行网关”的决策链路,通过 AST 解析、RBAC、四级风险模型和 error budget 检查,确保 CRITI
文章被收录于专栏:架构之路架构之路人工智能

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档