1. 三线并行安全审核流水线
SkillHub建立了一套自动化的安全审核流水线,从三个独立维度对技能进行全面检测。
- 第一线:内容合规过滤:对技能的SKILL.md文件及附属内容进行敏感词扫描和合规性检查,过滤违规内容
- 第二线:科恩实验室深度漏洞扫描:由腾讯科恩实验室对技能包进行深度代码检测,识别潜在漏洞和恶意行为
- 第三线:云鼎实验室AI模型安全评估:由腾讯云鼎实验室对技能进行AI模型安全和Prompt注入风险评估
- 聚合判定机制:三条流水线独立运行,最终结果通过聚合判定逻辑确定。全部通过→自动上架;任一失败→拒绝+通知修改
2. 持续安全监控
除了上架前审核,SkillHub还建立持续安全监控机制。
- 定期复检:对已上架技能进行定期安全复检,及时发现新出现的安全风险
- 用户反馈机制:用户在使用技能过程中发现安全问题,可通过平台反馈通道进行举报
- 安全报告公开:每个技能的安全评估报告对用户公开,接受社区监督
3. 安全生态建设
SkillHub与腾讯旗下安全实验室深度合作,持续提升平台安全防护能力。
- 科恩实验室:腾讯旗下信息安全研究团队,负责漏洞扫描和代码安全检测
- 云鼎实验室:腾讯云安全研究团队,负责AI模型安全和Prompt注入评估
- 腾讯玄武实验室:参与TRACE评测体系建设,负责搭建自动化评估系统