清朗AI第二阶段通报解读： 561万条违法信息背后，AI内容治理进入深水区

中央网信办"清朗·整治AI应用乱象"专项行动第二阶段工作深度复盘

一、一句话看懂

中央网信办"清朗·整治AI应用乱象"专项行动第二阶段已清理违法违规信息 561万余条、查处违规账号 4.9万余个、处置违规网站与应用程序 2400余个，并首次以"实名 + 分类"形式公开通报七类典型乱象。AI 内容治理已从"事后清理"走向"事前防范"。

二、三个最值得记住的数字

截至目前，本阶段累计：

比这些数字本身更重要的，是治理思路的转变：抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台已累计发布治理公告 46 期，平台与监管的协同从"被动响应"切换为"主动外送"——监管节奏，第一次跑到了乱象前面。

三、七类典型乱象，全部实名通报

本次通报最大的亮点，是直接点名到账号层面，并按乱象类型分七组公开通报：

1. AI "魔改"经典：微博账号"天**小"、抖音账号"歪**国"、快手账号"小*菌"、微信账号"咸*i"等，滥用 AI 技术颠覆《三国演义》《西游记》重要人物人设，虚构低质猎奇剧情博取流量。

2. AI 虚假不实信息：快手账号"云**视"、小红书账号"有*头"、抖音账号"7**员"、微信账号"长**帆"等，用 AI 伪造灾害现场、救援画面，编造不实社会热点，发布封建迷信内容，打造 AI 数字人虚假宣传带货，误导老年人、制造恐慌。

3. AI 假冒仿冒：抖音账号"特**力"、快手账号"石*"、小红书账号"潮**件"、微信账号"M**勒"等，用"换脸""换声"假冒公众人物，生成低俗舞蹈、拥抱接吻等图视频借机营销牟利。

4. AI 暴力低俗内容：B 站账号"带**着"、抖音账号"波**C"、快手账号"虾**诡"、微信账号"星**7"等，批量发布恐怖诡异、暴力低俗画面。

5. AI 侵害未成年人：小红书账号"小**娃"、微信账号"豆*a"、抖音账号"半**历"、快手账号"若**雪"等，发布 AI 生成未成年人怀孕、打架等与年龄不符的内容，批量制作"毒动画"、儿童"虐向""邪典"视频。

6. AI "托管"水军：微信账号"涛**客"、微博账号"A**师"、抖音账号"风*"等，为 AI 托管软件引流，模拟真人运营账号、评论互动，生成大量低质同质文案。

7. AI 产品服务和应用程序违规："N**t""穿**元""甜*圈""芋**o"等网站平台多个智能体封面、简介、生成对话中含有淫秽色情及危害未成年人身心健康的信息，被依法警告、罚款、下架或关闭。

这七类乱象覆盖了内容生产、账号运营、平台产品、未成年人保护等全链条——AI 治理，已经不是某一家公司、一个部门的事。

四、各地与平台怎么治

（一）地方网信办：因地制宜四项措施

· 北京：指导网站平台全面升级审核策略，持续提升违规内容新型变体识别处置能力；

· 上海：督促平台自查自纠，推出 AI 应用"知识普及包"，引导公众识别问题风险；

· 浙江：对属地重点平台开展"一企一策"合规问诊，依法查处问题突出的 AI 应用软件；

· 广东：召开重点网站平台工作例会，"点对点"督促多款应用违规问题整改。

（二）平台侧：四道防线同时加固

· 识别层：升级多模态识别模型，动态扩充人脸库、声纹库和违规样本库，上线人脸实时治理系统；

· 入口层：豆包、元宝、千问、文心一言等大模型严把原始语料内容审核关，强化 AI 生成合成内容标识要求落地；

· 应用层：华为、小米、OPPO、vivo 等应用商店制定严格的 APP 开发者准入规范和上架要求，对在架 APP 进行抽检复测；

· 协同层：累计发布治理公告 46 期，畅通线索举报渠道。

五、一个清晰信号：AI 合规不再是"选修课"

对照本次通报，有三个趋势对所有 AI 产品团队都值得划重点：

· "标识落地"是硬指标：AI 生成内容必须可识别、可溯源，未来产品上的"AI 生成小标签"将成为标配；

· 未成年人保护线尤其高：任何面向 C 端的 AI 产品都要默认提供未成年人模式与严格的内容过滤；

· 原始语料合规成新重点：豆包、元宝、文心一言等大模型被点名"严把原始语料审核关"，意味着语料来源、内容授权、版权合规要前置到训练与微调阶段——这件事再晚做就来不及了。

六、普通用户的三条识别小建议

1. 看"水印"：正规 AI 生成的视频/图片通常会有显式"AI 生成"标识；

2. 看"细节"：AI 换脸在耳朵、牙齿、镜面反射处最容易露馅；

3. 看"逻辑"：AI 编造的"现场"经常在地理、人数、口音上自相矛盾。

"清朗"专项行动从来不是一阵风。当 561 万条违法信息被清理、4.9 万账号被查处、46 期治理公告被公开，AI 内容生态正从"野蛮生长"走向"有序生长"。对从业者来说——合规能力，正在成为 AI 产品的新护城河。