首页
学习
活动
专区
圈层
工具
发布
技术百科首页 >AI 代码安全审计 >AI 代码安全审计如何识别幻觉依赖包?

AI 代码安全审计如何识别幻觉依赖包?

词条归属:AI 代码安全审计

1. 幻觉依赖包与 slopsquatting 概念

幻觉依赖包指 AI 编程工具"虚构"出来的、并不存在的软件包名。研究者在 USENIX Security 2025 论文中系统量化了该现象,并由此衍生出"slopsquatting"这一软件供应链攻击手法——攻击者预先注册模型高频幻觉出的包名,等待开发者安装时投毒。该术语由 Python 软件基金会研究员 Seth Larson 于 2025 年 4 月提出。

2. 依赖名真实性校验

审计工具将代码中的每个导入(import)语句与公共包注册表(如 npm、PyPI)逐一比对,确认包名真实存在。USENIX Security 2025 研究使用 16 个主流代码生成模型生成 223 万份代码样本,发现 440,445 份(19.7%)至少包含一个幻觉包名,共识别出 205,474 个虚构包名。

3. 注册信息与声誉核查

对每个依赖检查其发布者身份、注册时间、下载量与维护者信息,对"新注册、无历史、无维护者"的可疑包提高风险等级。该研究还发现,重跑相同提示词时,43% 的幻觉包名在每次运行中都重复出现、58% 在多次运行中复现,这种可预测性正是 slopsquatting 可被规模化的根源。

4. 跨注册表一致性校验

研究发现约 8.7% 的 Python 幻觉包名实际存在于 npm 注册表中,存在跨生态系统的混淆风险。因此审计需对目标语言对应的注册表做精确匹配,避免将"同名异构"的包误判为合法依赖。

5. 锁定文件与 SBOM 联动

结合锁文件(lockfile)固化依赖版本,并在每个进入生产的 AI 生成代码库要求生成软件物料清单(SBOM),对新增依赖触发人工确认与哈希校验,从源头阻断幻觉依赖被安装执行。

相关文章
AI幻觉下,如何识别虚假信息
其实目前来看,AI 在很多时候确实存在幻觉现象,尤其是在处理严谨性较强的问题时,例如数学题、编程问题等,经常会给出错误答案,甚至出现胡编乱造的情况。
算法一只狗
2025-04-02
1.3K0
推荐一款代码依赖包安全漏洞检查插件
今天向大家推荐一款代码依赖包漏洞检查maven插件--dependency-check-maven。通过这个插件可以扫描出项目中是否依赖已经存在的安全漏洞包
lyb-geek
2022-05-10
3.6K0
从影子AI识别到AI效能审计:iOA×WorkBuddy构建终端层面AI安全护栏
在WorkBuddy企业版中,已经内置了完善的AI安全能力,覆盖Agent管控、Token审计与数据防护。在此之上,腾讯iOA联合WorkBuddy打造了终端层面的专业纵深防御,从AI资产管理、运行时防护、业务安全访问、Agent防泄密、AI效能与安全审计五大核心领域,以满足企业用户更广泛的AI安全需求。
鹅厂AI研习社
2026-09-23
3110
AI审计风险识别实战 — 如何用AI快速识别财务造假信号、关联交易风险
本文是AI审计自动化系列文章的第3篇,延续前两篇的底稿自动化和质控引擎主题,深入探讨AI在审计风险识别中的实战应用。
阳光Sol
2026-05-19
8070
【AI助力安全】实战腾讯云AI编码助手辅助代码审计及漏洞挖掘
之前看过许多前端和后端的朋友们都分享过他们使用腾讯云AI编码助手进行辅助开发的经验,确实显著提升了代码生成的速度和质量,提供了前所未有的便利,也让我这个搞安全的万分羡慕啊。这周我系统的学习了腾讯云AI编码助手的操作文档,深入了解其功能特性与应用场景,发现它不仅仅是一个提高编码效率的利器,更是在保障软件安全性方面具有巨大潜力的安全助手。
周周的奇妙编程
2025-01-20
3.4K2
点击加载更多
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
领券