Instagram的AI检测系统再次陷入混乱

Instagram上可见的AI标签，本应帮助用户快速识别合成内容。但过去几周，用户纷纷反映该系统出现严重问题。他们表示，Meta对一些并未使用生成式AI工具创建或编辑的图片自动添加了“AI内容”标签。与此同时，真正的AI生成图像却未被标记，让人觉得Instagram上的内容已经完全无法信任。

这类误标的具体原因各不相同。许多用户表示，标签出现在使用Canva去背景工具编辑过的图片上，甚至只是用去瑕疵工具做了极轻微的修改。一位Threads用户称，只要用了去背景工具，Instagram“每次”都会打上标签；另一位用户则表示，仅仅用Canva去掉照片上“一个小斑点”，整张图就被标记为AI生成。还有一些案例，原因更加难以捉摸。

这样的误标乌龙其实似曾相识。2024年，Instagram曾出现类似问题，当时“AI制作”标签在功能上线几个月后就开始出错。那年2月，Meta宣布将扫描图片中的IPTC和C2PA元数据，以此判断内容是否由生成式AI创建或修改，但其具体检测方法一直含糊不清。据报道，当时的检测系统会把带有Adobe元数据、显示曾用生成式AI工具修饰过的照片一并打上标签，哪怕改动极其轻微、结果与原图基本无异。Meta随后承诺调整标注方式，以更准确反映“图片中AI使用的程度”。该公司还表示会采用“其他公司在其工具生成内容中包含的行业标准标识”，但至今没有公开这些标识具体是什么，也没有说明扫描的时机和方式。Meta方面并未回应置评请求。

这次被曝光的误标问题，与生成式AI的使用并没有明显关联。虽然像去背景这类功能确实用到了机器学习，但那是Photoshop等软件在物体选择、消除工具中使用了十多年的辅助型AI，而非通常与欺骗性AI图像相关联的文本生成图片工具。

据了解，至少部分近期的误标问题出在Canva一方。内容策略师杰斯·布鲁诺（Jess Bruno）在反映去背景工具的标注问题后，收到了Canva的解释：该平台的部分辅助AI工具此前被错误标记为“生成式”。Canva告诉布鲁诺，其工具现已修正标注方式。Canva去背景帮助页面上的一条说明也指出，使用该工具“不会为设计添加Canva的AI生成内容元数据”，但尚不清楚这条说明是否为最新添加，Canva也未回应置评请求。

不过，仍有Threads用户反映，即便Canva声称已修复问题，使用去背景工具后图片依然会被标记。也有用户表示，在问题修复之前用该工具编辑的图片，反而都没有被Instagram标记，该工具当时也并未添加Meta所称用于检测AI生成内容的C2PA元数据。

在笔者所做的一系列测试中，唯一确实会触发Instagram“AI内容”标签的，是Meta自家生成式AI系统所生成或编辑的内容。测试中使用了Canva的去背景工具、Photoshop的背景擦除工具、Adobe Firefly生成式AI功能、谷歌Gemini中的Nano Banana模型，以及iOS的苹果智能功能编辑或生成的照片，部分为完全生成的图像，其中确认多张带有C2PA和SynthID标识。然而，Meta对这些内容均未做任何标记。

还有报告显示，一些从未使用过Canva去背景工具的图片也被误标。一位用户发现，一张经过“投毒”处理（即通过细微调整让图片失去AI训练价值，或降低所训练AI模型效果的技术）的图片被打上了AI标签，而同一内容未经投毒处理的版本却未被标记。

歌手霍尔西（Halsey）创立的美妆品牌About Face近期发布在Instagram上的照片也被自动打上了“AI内容”标签。当有评论询问此事时，该品牌一位未具名的社交媒体负责人回应称，图片制作过程中并未使用AI。“这张照片是用我的iPhone拍摄的，然后我自己在照片App里做了些许修改。我们品牌所有平台呈现的内容，都是由真实的艺术家和真人完成的。”

笔者还测试了完全在谷歌Gemini中生成的两张个人肖像图片，尽管相似度存疑，这些图片同样带有C2PA和SynthID标识，但Instagram均未将其标记为AI内容。

目前唯一可以确定会触发Instagram“AI内容”标签的信号，是由Meta自家生成式AI系统所添加的标识。笔者还专门注册了一个信息极少的全新Instagram账号，并在短时间内连续发布测试图片，尽力模仿机器人或AI养号农场的行为模式——按理说，这类账号本应是Meta重点排查的对象。然而，即便在Meta上周刚宣布加大打击AI账号力度之后，该账号既未被标记为AI生成账号，发布的图片也一直未被贴上标签。截至目前，这些内容已完全公开发布了近两周时间。

这些测试结果让人不禁怀疑，Meta对“AI内容”标签的应用究竟有没有章法可循。这些标签本应帮助用户更容易信任Instagram上看到的内容，但就目前情况来看，恐怕连标签本身都难以让人信服。

Q&A

Q1：Instagram的AI标签为什么会误标真实照片？

A：原因尚不明确，但部分案例与Canva的去背景等辅助AI工具有关，这类工具曾被错误标记为“生成式”AI，导致原本未使用生成式AI的图片也被打上标签。

Q2：Meta是如何检测图片是否由AI生成的？

A：Meta表示会扫描图片中的IPTC和C2PA等元数据信号，并采用行业通用的AI内容标识方法，但并未公开具体检测标准和扫描时机，外界一直不清楚其确切原理。

Q3：真正由AI生成的图片会被Instagram标记吗？

A：不一定。测试发现，使用谷歌Gemini、Adobe Firefly等工具生成、且带有C2PA和SynthID标识的图片均未被Instagram标记，只有Meta自家生成式AI工具制作的内容才会被标记。