首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >3·15晚会曝光GEO,你的AI可能被投毒了

3·15晚会曝光GEO,你的AI可能被投毒了

作者头像
不惑
发布2026-07-10 20:11:01
发布2026-07-10 20:11:01
10
举报

一款根本不存在的手环,两小时后登上了AI推荐榜

你有没有这样的习惯。

想买个东西,先问问AI。手机选哪款好?手环哪个性价比高?护肤品推荐一下?

AI回答你了。条理清晰,有排名,有对比,看起来特别靠谱。

你下了单。

但你不知道的是,那个AI推荐的产品,可能压根就不存在。两个小时前,有人用一套软件,虚构了它的全部信息,连什么量子纠缠传感、黑洞级续航这种离谱的宣传语都是现编的。

AI照单全收了。

这不是科幻。这是2026年3月15日,央视315晚会现场直播的内容。

AI被投毒示意
AI被投毒示意

AI被投毒示意

39.9元,就能改写AI给你的答案

今年315晚会上,AI大模型被投毒的黑色产业链被正式曝光。其中一款叫做力擎GEO优化系统的软件被点名,它通过批量生成和分发虚假内容,操纵AI大模型的信息来源,从而影响模型输出结果。

听起来很技术对吧。

image
image

image

其实操作简单得吓人。

央视记者随机在电商平台买了这款软件,虚构了一款叫Apollo-9的智能手环,把编造的产品信息输进去,点一下文章创作指令。等了没多久,系统就自动生成了十余篇虚假宣传软文。所有虚假信息被完整写入,包括故意虚构的夸张产品信息,还杜撰了产品使用反馈,甚至伪造了虚假排名。

然后呢?

软件自动打开事先准备好的自媒体账号,自动输入标题、填充文章内容、插入图片,整套流程一气呵成。

两篇文章发出去。两个小时后。

业内人士在AI大模型平台询问智能健康手环推荐,就有两个AI大模型推荐了这款虚构的智能手环,而且排名靠前。

一个完全不存在的产品,就这样堂堂正正地出现在了AI给你的回答里。

这东西叫GEO,搞流量的人又找到了新猎场

先解释一下这三个字母。

GEO全称Generative Engine Optimization,意思是生成式引擎优化。对应互联网时代的SEO,也就是搜索引擎优化,最早由海外学者提出,随着生成式AI发展延伸到了营销领域。

SEO你肯定不陌生。以前百度搜什么,排在前面的经常是花了钱的广告。现在AI时代来了,大家开始用豆包、文心、千问这些大模型搜东西了。

流量在哪,生意就跟到哪。

image
image

image

一家业内知名的GEO服务商负责人王总告诉记者,仅仅一年时间就已经成功服务了200多个客户,遍布各行各业。他们公司的强项就是能帮助客户在消费者使用AI大模型搜索时,让客户排名前列。

怎么做到的?另一个服务商章总说得更直白,你在AI的世界里面把证据链做足,让大模型觉得这就是真的,而且是有用的。大模型经过多方信息交叉,觉得你优于同行核心优势,自然而然就会把你放在第一位。

说白了,就是用假内容去围猎AI的判断力。

image
image

image

投毒的人自己都觉得不太好,但停不下来

最让我震惊的,是那个力擎GEO系统运营者李总的态度。

他对着记者说,每个商家都喜欢,都希望是别人别投毒,自己投毒。我虽然不是第一,哪怕说我就是北京的第一,我都想说成我是华北的第一,这样有没有投毒成分在里面?它就有啊。第二种情况是,我就看不得对手好,我也做不上去,但是我给你投点毒还是可以的。

记者问他,你刚才提到投毒的概念,这种东西不好吧。

他的回答是,因为全网的人投毒投太多了。

你看这个逻辑。大家都在投毒,所以我投也没关系。

一年可能上亿的广告费,花个几百万投点毒,总行吧。这是他的原话。GEO业务的火爆,催生出了不少专门从事发稿业务的公司和平台,他们长期承揽各种发稿业务,以便让AI大模型引用和抓取,成为围猎AI大模型进行数据投毒的重要一环。

更狠的是,有服务商明确说,人家不知道这是广告,所以为什么说AI出来的结果人家会信任。可能人家的产品质量没有你过硬,但是它有AI做辅助、做佐证、做背书。

翻译一下就是,产品不行没关系,AI帮你说行就行。

image
image

image

等一下,AI的大脑真的被改了吗?

这是很多人看完315之后最大的困惑。

答案可能和你想的不一样。

这套模式并不是直接入侵AI模型本身,而是先污染AI会读取、整理与引用的外部信息来源。简单说,就是先在网路上大量制造看似可信的文章、评测、榜单与推荐内容,再让AI在联网搜索或抓取资料时,把这些假信息当成可参考内容。

打个比方。你是一个法官,审案子的时候需要查阅资料。但有人提前在你能看到的所有书架上,塞满了伪造的证据。你查到的每一条都指向同一个结论。你不会觉得有问题,因为这些证据看起来来自不同的渠道,互相印证。

现在主流AI大模型普遍采用RAG技术,也就是检索增强生成。系统会在回答前先从外部数据库或网络资源中检索相关文本,然后把这些信息填充到提示词里。模型会优先采用所供给的数据,而非依赖预训练知识。

所以模型本身的参数没有被动过。但桌上的参考材料全被换了。

这才是GEO投毒真正可怕的地方。它不需要入侵任何系统,不需要破解任何代码,只需要在互联网上制造足够多的噪音。

image
image

image

大模型厂商怎么说?坦率讲,都很含糊

315曝光之后,各家大模型厂商的反应值得玩味。

字节跳动旗下的豆包表示未受到这次事件影响。阿里千问则称相关投毒未影响其核心判断与知识体系。而DeepSeek的回应相对保守,承认作为AI模型确实存在受此类现象影响的可能,但认为现阶段产生实际误导的风险仍相对可控。

说白了,没有一家敢拍着胸脯说,我们完全免疫。

这些说法反映出一个现实,主流模型显然已经意识到内容污染问题,也有部署一定程度的防护与降权机制,但在算法持续更新、内容农场大量生产、营销黑产不断迭代的情况下,这场攻防恐怕很难靠单一技术措施彻底解决。

而资本市场的反应倒是诚实得多。蓝色光标推出了蓝标智投GEO系统,还投资了GEO企业PureblueAI。引力传媒筹划设立GEO事业部。市场也形成了GEO概念股,此前还迎来一波暴涨。

一边是315在曝光,一边是资本在狂欢。

image
image

image

一家被曝光的公司,注册资本100万,员工1人

这个细节差点被淹没在大量报道里,但我觉得它才是最魔幻的部分。

天眼查显示,力擎GEO优化系统关联公司北京力思文化传媒有限公司成立于2018年4月,注册资本100万人民币。值得注意的是,2025年该公司参保人数为1人,此前连续多年参保人数为0。

一个人。

一个人搞出来的系统,公开宣称可以优化8大模型和多家媒体,包括豆包、文心、千问、元宝等国内主流模型,自称覆盖20个平台内容和百度搜索AI结果。

一个人的公司,声称一年服务了200多个客户。

这说明什么?说明这个事情的技术门槛低到可怕。任何一个懂点互联网运营的人,花点成本就能批量制造虚假信息去喂AI。

曝光之后,力擎GEO在多个平台的账号内容已全部清空,在电商平台也已无法搜索相关产品。

跑了。但跑掉的只是一家。这条产业链上还有多少个李总、王总、章总?

image
image

image

29亿的市场,和一个被动摇的信任

据秒针营销科学院测算,去年全球GEO市场规模约112亿美元,国内仅为29亿元。

29亿,听起来不大。但这个数字背后代表的是,有29亿的钱花在了让AI说谎这件事上。

通过发布大量低质内容,甚至虚假信息,给AI投毒、污染内容、误导用户。业内担忧,这可能还会使AI成为新的网络水军。

有从业者说得很直接,本身伤害用户体验的优化方法,模型厂商将来的态度一定是赶尽杀绝。

但问题是,赶得完吗。

大模型确实有反作弊策略,对于污染行为会进行防御。但同一个从业者也承认,随着AI生成内容爆发,低质内容存活期变短,质量要求反而更高。如果GEO泛滥,才最可怕。

image
image

image

最后说几句掏心窝的话

这件事最让我不安的,不是技术本身多复杂。GEO技术不复杂,但它动摇的是人们对AI作为中立信息源的信任。

我们正在经历一个信息入口大迁移的时代。越来越多人不再用搜索引擎,转而去问AI。甚至很多70多岁的老人都开始用豆包、文心来查东西了。

如果这个新入口从一开始就被污染了,那我们到底还能相信谁?

有人在评论区写了一句话,以前都说AI让大家获取信息的面更广,在我看来AI让信息获取的面会更加的窄,且毒。

我觉得这句话说得扎心但准确。

所以我的建议很简单。

对医疗、金融、保健这类高风险问题,不要只看AI给出的单一答案。多问几个模型。多查几个渠道。看到AI推荐的产品,别急着下单,先去真实的用户社区翻一翻。

AI很强大。但它现在面对的敌人,不是算力不够,不是模型不行。

是人心。

📌 本文信息来源于2026年3月15日央视315晚会公开报道及多家媒体跟进报道,具体事实以官方通报为准。如果你也遇到过AI推荐了离谱的产品,欢迎在评论区聊聊。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2026-03-17,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 技术人说 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 一款根本不存在的手环,两小时后登上了AI推荐榜
  • 39.9元,就能改写AI给你的答案
  • 这东西叫GEO,搞流量的人又找到了新猎场
  • 投毒的人自己都觉得不太好,但停不下来
  • 等一下,AI的大脑真的被改了吗?
  • 大模型厂商怎么说?坦率讲,都很含糊
  • 一家被曝光的公司,注册资本100万,员工1人
  • 29亿的市场,和一个被动摇的信任
  • 最后说几句掏心窝的话
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档