- 综合排序
- 最热优先
- 最新优先
AI Agent安全实践指引
第一章：报告基础信息 报告标题：AI Agent安全实践指引 发布机构：腾讯云计算（北京）有限责任公司、中国信息通信研究院人工智能研究所 发布时间：未明确标注（注：引用数据时间范围为2026年2 月） 行业标签：技术服务,安全 产品标签：undefined#AI Agent安全中心undefined#AI Agent安全网关undefined#iOA（终端安全管理系统）undefined #威胁情报能力 第二章：报告背景和目标 随着AI Agent在企业规模化部署，其自主决策与工具调用能力挑战了传统安全体系，引发权限滥用、供应链风险等新型威胁。 本报告由工信部网络安全威胁和漏洞信息共享平台（NVDB）联合行业机构制定，提出“六要六不要”原则及三层防护体系，助力企业实现风险可控、行为可溯的AI Agent落地。 第六章：为什么选择腾讯云 腾讯云通过以下能力为AI Agent提供全生命周期防护： 开箱即用防护体系：整合AI Agent安全网关（输入过滤）、iOA终端沙箱（运行隔离）、威胁情报库（恶意组件识别）
98820编辑于 2026-04-02Agent设计模式（4）：Tool Use模式——构建安全的多工具Agent
今天这篇，我不只告诉你Tool Use是什么，还要告诉你：如何构建安全、可控、高效的多工具Agent。 或low 数量限制：默认限制为合理值（如查询最多1000条） 权限：默认只读，需要明确授权才能写 超时：默认30秒，避免无限等待 代码沙箱安全设计 让Agent写代码，最大的风险是：代码会做什么，你不知道 实现 现在我们把所有内容整合起来，构建一个完整的、安全的多工具Agent。 我见过太多项目因为没做沙箱，导致Agent删库、泄露数据。安全不是事后补救，是事前设计。 第二，标准化。 工具接口不统一，Agent就会乱。50个工具有50种接口风格，LLM根本记不住。 安全、标准化、可扩展，是构建多工具Agent的三个关键。 你用过哪些工具调用方案？遇到过哪些坑？评论区聊聊。
32910编辑于 2026-05-09为 AI LLM Agent 构建安全基础
为 AI / LLM / Agent 构建安全基础——打造可信、可控、可持续的智能生态体系一、引言：智能化浪潮下的“安全底线”2025 年，人工智能正进入自治与智能代理（Agentic AI）时代。 构建一个安全、可信的 AI / LLM / Agent 生态，已成为数字基础设施的重要命题。 身份与权限 多 Agent 系统中权限边界模糊，滥用 API 权限 自动化 Agent 获得管理系统访问权后执行破坏性操作 供应链安全 外部模型 / 插件 / 依赖被篡改 Agent Sandbox（沙箱）：限制其读写文件、调用系统命令的能力。行为签名机制：每个 Agent 执行任务前需获得安全签名。动态审计日志：全程记录指令链、执行链、响应链。 四、AI 安全落地实践：企业级防护体系案例 案例 1：金融机构 AI 运维系统安全化背景：AI 运维平台采用多个自主 Agent 自动执行巡检、补丁升级。
4.8K10编辑于 2025-10-11- 来自专栏网络安全攻防
JAVA安全之Java Agent打内存马
常用的方法主要有以下几个： attach()：允许我们传入一个JVM的PID，然后远程连接到该JVM上 loadAgent()：向JVM注册一个代理程序agent，在该agent的代理程序中会得到一个 在JVM中有两种加载形式： Agent_OnLoad：JAVA运行时通过-javaagent参数加载指定的agent Agent_OnAttach：通过VM.attach方法向指定的java进程中注入agent 实现方式 Java Agent的实现方式大致可以分为两种，第一种是在JVM启动前加载的premain-Agent，另外一种是JVM启动之后加载的agentmain-Agent，两者的主要差异如下图所示 : Java_Agent 随后编译打包为jar包 Step 3：编写一个Inject_Agent类，获取特定JVM的PID并注入Agent package com.al1ex; import java.io.IOException : Java_Agent 随后将agentmain-Agent打为jar包，注意这里将tools和javassist依赖一并打包 Step 3：编写一个Inject_Agent类用于将Agentmain
51410编辑于 2025-01-07 - 来自专栏AI人工智能
Agent安全机制：权限控制与风险防范
摘要作为一名专注于Agent系统安全与风险管控的技术专家，我在过去五年中深度参与了多个大型Agent安全系统的设计与实施，深刻理解了安全机制在Agent系统中的关键作用和复杂挑战。 这七个能力相互协作，共同构成了Agent系统的安全防护体系。 本文将从安全架构、技术实现、风险管控、合规要求、最佳实践等多个维度，全面解析Agent安全机制的核心技术，为开发者提供深入的技术洞察和实践指导，帮助大家构建更加安全和可信的Agent系统。1. 1 Agent零信任安全架构图2. 在开发实践方面，安全开发生命周期的应用，将安全考虑融入到Agent系统开发的每个阶段。
92210编辑于 2025-08-06 - 来自专栏XINDOO的专栏
Agent设计模式——第 18 章：Guardrails安全模式
Guardrails（防护栏），也称为安全模式，是确保智能 Agent 安全、符合道德规范并按预期运行的关键机制，尤其是在这些 Agent 变得更加自主并集成到关键系统中时。 LLM（如 Gemini）可以支持强大的、基于提示词的安全措施，如回调。这种方法有助于减轻与内容安全、Agent 错位和品牌安全相关的风险，这些风险可能源于不安全的用户和工具输入。 您是一个 AI 安全 Guardrail，旨在过滤和阻止对主 AI Agent 的不安全输入。您的关键角色是确保主 AI Agent 仅处理适当和安全的内容。 您将收到一个"AI Agent 输入"，主 AI Agent 即将处理该输入。您的任务是根据严格的安全准则评估此输入。 **不安全输入的准则：** 1. 原因： Guardrails 或安全模式提供了一个标准化的解决方案来管理 Agent 系统固有的风险。它们作为一个多层防御机制，确保 Agent 安全、符合道德规范并与其预期目的保持一致地运行。
1.8K10编辑于 2025-10-27 EdgeOne ClawScan：AI Agent安全防护工具概要
一、产品定位与核心亮点 EdgeOne ClawScan是由腾讯朱雀实验室×腾讯云EdgeOne联合推出的AI Agent（文中称“小龙虾”）专用安全防护工具，聚焦AI Agent“高权限、可执行、插件生态丰富 ”特性带来的安全风险，通过自动化扫描与持续监控构筑安全防线。 四、典型案例 客户名称：小龙虾（AI Agent示例） 背景：作为高权限、可执行、插件生态丰富的超级Agent，面临“输入→思考→执行”链路中权限（文件/账号/系统/网络）、技能（Skill执行路径）、 总结 EdgeOne ClawScan通过“一句话体检+四大扫描+双重守护”模式，结合EdgeOne网络层防护（WAF/Bot管理/DDoS/CC防护），为AI Agent构建从内到外的完整安全防护体系 立即体验可通过指定命令触发免费体检，或四步接入EdgeOne套餐（领免费版→域名接入→配置策略→升级可选），助力AI Agent安全服务业务。
48410编辑于 2026-03-31- 来自专栏云鼎实验室的专栏
97.7% 告警降噪：腾讯云安全运营Agent实践
针对于腾讯云的安全告警，云鼎引入Agent自动研判安全告警，把"每条告警都靠人看"变成"Agent先筛、人只看重点"。 60+腾讯云安全MCP工具：Agent可以调用情报查询、腾讯云资产画像、日志、告警等60多个工具，像安全专家一样"主动调查"。 Agent介入后 尤其是其中一条原本被忽视的告警，Agent发现了隐藏2个月的入侵，这一点也证明了Agent在安全告警上的价值：持续值守、不漏报。 2、传统方案 VS Agent方案 传统方案 Agent方案 如何让Agent来做安全运营？ "——把容易被跳过的关联分析逐项完成 安全运营Agent，是不是"接个模型"就行？
52221编辑于 2026-05-25 Cube Sandbox开源助力Agent安全执行的落地实践
复杂任务往往伴随代码执行、网页访问、数据抓取与安全隔离的需求，开发者亟需一个安全、弹性、易用的运行环境，以降低基础设施复杂度、提升迭代效率。 在此背景下，CubeSandbox（简称Cube）正式推出并全面开源，定位为腾讯云开源的AIAgent执行环境底座，兼顾硬件级隔离与亚百毫秒启动，兼容E2BSDK接口，可通过替换环境变量无缝接入现有Agent 它以开源姿态开放核心能力，意在成为智能体安全执行的通用底座，连接模型、工具与真实世界。 其开源SDK兼容E2BSDK接口，仅需设置环境变量（如E2B_API_URL、CUBE_TEMPLATE_ID）即可将现有Agent应用指向CubeSandbox，保持原有代码不变，支持几行代码创建沙箱并安全运行 CubeSandbox需运行于开启KVM的x86_64Linux环境（WSL2Linux物理机云裸金属均可），提供四步启动流程：准备运行环境→启动Cube沙箱服务→制作代码解释器沙箱模板→运行第一段Agent
97610编辑于 2026-04-24AI agent 的安全模型：现在终于有标准了
这份文档的核心价值在于：它把 coding agent 的安全边界抽象成了五个可配置接口。 这其实是一份判断 AI agent 能不能进 production 流程的检查清单。 安全模型正在变成准入门槛 OpenAI 这份文档真正的价值不是配置语法——抄到 config.toml 也跑不起 Codex。 价值在于它建立了 AI coding agent 的安全模型：sandbox、approval、network、credential、rules。 AI coding agent 这一波，五个槽位就是它的 PSP。
26710编辑于 2026-05-14EdgeOne ClawScan：AI Agent安全体检解决方案
研发机构：腾讯朱雀实验室 × 腾讯云EdgeOne 一、产品定位与核心亮点 技术定义：EdgeOne ClawScan是针对高权限、可执行AI Agent（如“小龙虾”）的自动化安全扫描工具，致力于解决 Agent执行链中“输入→思考→执行”环节的安全风险。 硬核指标 检测覆盖率：100%覆盖Agent核心风险三角（权限/技能/输入） 风险检测率：支持36%恶意Skill识别（引用来源：Snyk ToxicSkills研究报告） 3. 攻击拦截率：100%阻断未授权API调用 数据保护：零知识库泄露事件（持续运行6个月） 五、接入路径 四步部署： 注册：领取EdgeOne免费版（含基础WAF/Bot防护） 接入：绑定Agent 腾讯云EdgeOne安全产品团队
50210编辑于 2026-03-31腾讯云安全“龙虾”方案：AI Agent全生命周期安全防护实践
识别AI Agent安全风险与防护缺口 AI Agent具备读取文件、连接网络、操作电脑的能力，无防护状态下等同于将家门钥匙交给陌生人，存在数据泄露、恶意操作隐患。 构建三步防护法与分场景安全方案 针对AI Agent（“龙虾”）安全防护，采用摸清家底、检查饲料、建好围栏三步法，并提供分场景产品方案： 摸清家底：盘清AI Agent数量、版本、使用者，实现资产可见可管 分场景推荐产品： 企业云端养虾（适用IT/安全负责人）：AI Agent安全中心+AI Agent安全网关，含资产盘点、指令检测、数据防泄、沙箱隔离、身份安全、Skills安全； 企业办公网养虾 ），为企业及个人用户提供AI Agent安全管理能力。 undefined方案目标：让每一只“虾”（AI Agent）安全可控，助力企业放心用AI。
35410编辑于 2026-05-08MCP 是一个安全噩梦 —— 看 Agent 安全框架如何解决它
但请不要将“简洁”误认为是“安全”。这种简洁的设计确实很强大，但前提是安全机制足够稳固。 MCP 无法忽视的安全问题 MCP 存在一些关键的设计缺陷，这些缺陷带来了严重的安全风险。 智能体安全框架：该敲响警钟了 MCP 潜力巨大，但我们不能忽视其真实存在的安全隐患。这些漏洞并非边角问题， 而是结构性缺陷，随着 MCP 的流行度提升，它们只会成为更大的攻击目标。 提议的智能体安全框架概览 这些并不是“可选项”或“锦上添花”，如果我们真的想构建一个安全、可靠的智能体生态系统，那么这些措施就是基本前提。 安全基础不是可选项，而是实现 MCP 潜力的唯一道路。 希望本文对你有所帮助，由笔者翻译整理自：https://medium.com/data-science-collective/mcp-is-a-security-nightmare-heres-how-the-agent-security-framework-fixes-it-fd419fdfaf4e
54410编辑于 2026-03-13- 来自专栏程序员
失控的“打工人”：AI Agent的安全与对齐难题
当我们赋予这些“打工人”越来越大的自主权时，一系列严峻的安全与伦理问题也随之浮出水面。如果它们误解指令、被恶意利用，甚至做出无法解释的决策，我们将面临怎样的风险？ 这种“目标错位”是AI安全领域最核心的担忧之一。2.武器的化身：当Agent被恶意利用如果说误解是“无心之失”，那么被恶意利用则是“有心为恶”。 技术加固：投入研发可解释AI，让Agent的决策过程变得透明；建立“中断开关”和“containmentbox”机制，确保人类在任何时候都能接管或终止Agent的行动。 行业自律与公众监督：科技公司必须将安全和伦理置于商业利益之上，建立严格的内部审查机制。同时，关于AI发展的讨论必须向公众开放，这不仅是技术议题，更是关乎我们所有人的社会议题。 在将它们推向世界之前，我们必须竭尽全力，确保这些强大的“打工人”不仅是高效的，更是安全、可靠且与我们同心同德的。这场关乎人类命运的对齐竞赛，其重要性，不亚于开发AI本身。
35910编辑于 2025-10-05 - 来自专栏运维有术
Hermes Agent Skills：3 级渐进加载 × 6 步调度 × 5 维安全扫描，让 Agent 学会积累经验
Hermes Agent Skills：3 级渐进加载 × 6 步调度 × 5 维安全扫描，让 Agent 学会积累经验 2026 年「术哥无界」系列实战文档 X 篇原创计划 第 122 篇，Hermes 内联 Shell 执行默认关闭，需要在 config.yaml 手动开启——安全考量，合理。条件激活的精巧设计条件激活是这套系统里设计得比较精巧的部分。 安全扫描与分发生态图 5：Skills Hub 安装流程 + 五维安全扫描 + 四档信任等级分层Skills Guard：五维安全扫描所有从 Hub 安装的第三方 Skill 都会经过安全扫描器（tools 通过把怎么做抽象为可复用的指令文档，配合渐进式披露按需加载、条件激活自动适配、安全扫描保障信任、Hub 生态实现分发，形成了一套相对完整的过程性记忆方案。 渐进式披露解决 token 效率、条件激活解决运行时适配、分层信任解决安全保障——三个设计点可以独立使用，不一定非要整体搬过去。
15800编辑于 2026-05-28 - 来自专栏机器之心
你的Agent电脑助手正在踩雷！最新研究揭秘Computer-Use Agent的安全漏洞
为了使 Computer-Use Agent（CUA）在未来能够大规模、安全地部署在实际应用场景中，来自上海 AI Lab、中国科学技术大学和上海交通大学的团队强势出手，推出 CUA 安全测试基准——RiOSWorld 该测试基准全面地评估了 Computer-Use Agent 在真实电脑使用场景中可能面临的安全风险，并表明当前阶段的 CUA 作为自动化电脑使用助手仍然面临着突出的安全风险。 这种全面的覆盖致力于能够有效和全面地评估 computer-use agent 在各个方面的安全风险。 评估方法 RiOSWorld 从两个维度评估 MLLM-based Computer-Use Agent 的不安全/有风险行为： Risk Goal Intention：Agent 是否有意图执行风险行为 它不仅揭开了 Computer-Use Agent 的安全遮羞布，更为未来指明了方向：没有安全兜底的 AI，再强大也是「空中楼阁」！ 转发提醒身边的 Computer-Use Agent 爱好者！
55910编辑于 2025-07-02 - 来自专栏服务端技术杂谈
为了Agent而Agent？
主要讲的是如何选取Agent主流框架的逻辑。 讨论了两种路径，workflows和agent。 我理解大概率是为了Agent而Agent所找的一个所谓具有代表性的例子吧。 而且你现在用Agent，未来扩展性也是一个问题。 业务想要扩展一个新的场景逻辑，你敢直接用Agent承接吗？ 有人说，我们会在Agent上线之前，充分评估模型，确保Agent可以适配新的业务场景需求。 但是业务不会等你Agent ready之后再开量啊。 而Agent更适合人机协作，比如AI Coding或其他chatbot，因为有个人在旁边可以为Agent的不可控进行兜底。 大家用Agent的目的很多时候并不是从第一性原理出发，很多时候都是为了Agent而Agent，想一想Agent真的比workflow好吗？
22010编辑于 2026-03-11 - 来自专栏得物技术
通用 AI Agent 驱动网关路由安全审计实践｜得物技术
本项目构建了一个网关路由AI安全审计系统，采用"通用Agent+业务Skill"分层设计，增量日检/存量月检。 落地Open网关路由越权漏洞检测流程，通过AI批量筛查+人工深度验证的人机协同模式，为大规模API安全审计提供了可复用的智能化解决方案。充分发挥通用Agent能力，业务逻辑在Skill中快速迭代。 一、背景与技术方案安全审计的核心挑战随着平台API规模持续扩张，安全审计面临新的规模化挑战：主要挑战：覆盖面不足：抽样审计约覆盖~20%。时效性压力：新接口需要更快的安全评估。 二、技术架构整体架构设计架构说明：常规代码负责任务调度与结果存储，所有AI分析工作由超级Agent完成。 具体项目分析告警时采用AI批量筛查+人工深度验证的人机协同模式：场景化应用：架构设计原则：通用Agent+业务Skill分离设计优势：通用Agent能力最大化：充分利用ClaudeCode/OpenCode
33310编辑于 2026-04-30 腾讯云构建AI Agent全生命周期安全治理体系
一、企业采用AI Agent遭遇的安全困境 企业在部署和“饲养”AI Agent的过程中，面临传统安全边界失效的挑战。 核心产品矩阵 AI Agent安全中心：提供管控平台，实现资产清点、深度审计与运行管控，确保Agent“看得见、管得住、审得清”。 AI Agent安全网关：解决身份认证与凭据管理问题，提供“身份-风险-稳定性”三位一体保障，支持Token限流及防提示词注入。 核心优势 纵深防御体系：基于事前（Agent准入与合规检测）、事中（进程监控、Skill检测、安全沙箱）、事后（全量日志、资产台账）的三层零信任架构。 服务延伸：提供AI团队测试评估服务与AI风险情报服务，协助企业进行Agent安全风险评估与加固。
21010编辑于 2026-05-28六大攻击手法围猎 Agent，安全建设如何真正落地
面对这场无硝烟的攻防战，安全建设绝非纸面方案，唯有实战化、全链路的防护体系才能真正落地，而德迅云安全正以硬核技术为企业筑牢 Agent 安全防线。 这类攻击无需特殊权限，成功率超 60%，是 Agent 最常见的安全威胁。 三、德迅云安全：实战化防护，让 Agent 安全真正落地德迅云安全深耕云安全领域，依托UEBA、SDP、零信任 + 机器学习的技术底座，打造覆盖终端、应用、基础设施的纵深防护体系，针对 Agent 六大攻击痛点 结语AI Agent的价值释放，必须以安全为前提。六大攻击手法的围猎，考验的是企业安全建设的实战能力。 德迅云安全以硬核产品、全链路方案，让 Agent 安全从 “纸面” 走向 “落地”，助力企业在拥抱 AI 智能的同时，牢牢守住业务安全底线。
17710编辑于 2026-05-15
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号