315爆料你问AI推荐什么好，它却在帮骗子说话

开场，一个让人后背发凉的真实场景

视频那头是你妈。

她说遇到急事，需要你打五万块钱。

你看了看屏幕。脸是她的脸，声音是她的声音，连说话的节奏都一模一样。

你转了。

然后你妈给你打电话，说今天没联系过你。

image

image

这不是电影。内蒙古警方破获的一起AI换脸诈骗案中，福建某科技公司老板郭先生在视频通话中目睹好友面容、亲闻其声，10分钟内被骗转账430万元，事后发现对方竟是AI换脸与拟声技术合成的数字替身。

十分钟。四百三十万。

image

image

9块9，就能复制一张脸

某社交平台上，用户仅需提供5秒视频和清晰五官照片，支付9.9元即可获得定制化换脸视频。

你没看错。

一杯奶茶的钱，就能把任何人的脸贴到任何人身上。

AI诈骗已经形成一条分工明确、相互协作的完整化黑色产业链。上游技术提供者通过暗网兜售AI换脸套餐，价格从几百元到数万元不等。中游推广者则利用非法获取的个人信息库，通过短信、社交软件精准投放诈骗信息。下游洗钱者则通过虚拟货币、跑分平台等渠道转移资金。

技术、数据、资金，形成了一个完整闭环。

骗子不再需要高学历，不再需要复杂剧本。AI帮他们搞定一切。

从一对一到一对多，2亿港币的视频会议骗局

一家英国跨国企业的香港分公司员工收到了一封英国总部CFO的邮件，称总部正在计划一个秘密交易，需要将公司资金转到几个香港本地的账户中待用。

这位员工起初没信。毕竟正常人都会怀疑。

然后他被邀请进了一场视频会议。

image

image

骗子使用Deepfake技术，通过公司的Youtube上视频和其他公开的媒体素材，就成功伪造了英国公司高管的形象和声音。参与视频会议的都是真人，然后通过AI换脸，把骗子的脸和声音都换成了对应的高管的脸和嗓音，下达了转账的指令。

整个会议室里坐着CFO、几位他认识的同事，大家正在讨论一起收购案。

他放松了警惕。

image

image

2022年到2024年初，我国共发生AI换脸类诈骗案近百起，累计给人民群众造成经济损失高达2亿元。

而香港这一单案子，直接2亿港币。

今年315，曝光了一个更可怕的东西

如果说AI换脸骗的是人，那接下来这个，骗的是AI本身。

央视315晚会曝光给AI投毒已成产业链。力擎GEO优化系统可自动生成宣传软文，用户只需支付相应的费用，就能在各大主流AI大模型里，让客户的产品榜上有名。让客户广告成为AI的标准答案。

你用AI搜索，问它哪个手机好。

它给你推荐了某个品牌。

你以为这是AI的客观分析。

不是。

GEO业务受热捧的主要原因就是它能在AI大模型里帮客户喂料投毒，实现客户的商业目的。

image

image

从业者表示，比如说手机品牌，就5个位置，最多10个位置，这么多手机怎么弄。一年可能上亿的广告费，花个几百万投点毒，总行吧。

几百万换一个AI的标准答案。

这笔账，商家算得很清楚。

image

image

服务商表示，他们在任何平台上面都能把排名做到前三位。怎么能把排位做上去？在这些AI平台上面去给你们做内容的输出，相当于去给你们做这些软文，然后让这些AI平台去刷录、收录、抓取。

你信任的AI，正在被人喂养虚假信息。

它说出来的话，可能是别人花钱买的。

老年人成为精准猎物

年轻人被骗，可能损失几万。

老年人被骗，可能是一辈子的积蓄。

私域直播针对老年人的诈骗套路频发，部分主播冒充专家，将普通产品包装成养生神器，诱导老年人高额消费。

保健品、养生床垫等产品虚假宣传，宣称能抗癌、治慢病，无任何科学依据。不法商家通过会销洗脑、免费体检、赠送礼品等方式，诱导老年人购买高价劣质产品。

直播间里的专家，可能是AI数字人。

视频电话里的儿子，可能是AI换的脸。

image

image

2025年4月，针对利用AI换脸等深度合成技术实施网络诈骗犯罪活动问题，检察机关与公安机关联合发布新型诈骗防范指南，通过老年大学、社区讲座等多种渠道，向群众揭露虚拟身份加高回报的诈骗套路。

讲座上老人们纷纷感慨，这种高科技诈骗手段确实不易识破。

法律在追，但骗子跑得更快

最高法表示，诈骗犯罪手段多样化、智能化特征日趋明显。采用新兴技术，变换诈骗手法和话术，新诈骗手段层出不穷且呈现智能化趋势，AI换脸、深度伪造等前沿科技被应用于诈骗场景中。

法律规制与技术进步之间的时差正在制造监管真空。目前由于立法还不完全，所受的惩罚与牟利并不正比，这就让犯罪之人有了更大动机。

一边是不断升级的技术。

一边是还没跟上的法律。

中间的空档，就是骗子的游乐场。

怎么识别AI换脸

现有技术仍存在可识别的生理破绽，例如微表情缺失，光影不匹配，皮肤过度平滑，声音缺乏停顿，语速快等问题，这些技术局限为公众提供了关键辨识窗口。

image

image

记住这几点，

表情太完美，反而不正常。

光影有时候对不上。

皮肤像是开了美颜，过于光滑。

说话语速太快，没有正常人的停顿。

但说实话，技术在进步。

这些破绽以后可能越来越难发现。

最靠谱的方法，还是老办法，多问一句。

涉及转账，打电话核实。

问一个只有对方知道的问题。

315不是一天的事

2026年315晚会聚焦放心消费品质生活的主题，关注食品安全、公共安全、金融安全、广告市场等领域侵害消费者权益的违法行为。

今年的晚会曝光了很多问题。

image

image

网红万能神药外泌体、AI大模型遭投毒、荐股分成骗局，今年的315晚会曝光了这些问题。

但曝光只是第一步。

315不是一天的事，消费维权也不是一天的事。每一天都应该是315，每一个消费者都应该勇于维权。

AI不会消失。

骗子也不会消失。

我们能做的，是比他们更警觉一点。

在按下转账按钮之前，多想三秒钟。

这三秒钟，可能就是四百三十万。

写在最后

技术本身是中立的。

AI换脸技术本身是中立的，但其应用必须在法律和道德的轨道内运行。

同样的AI，可以用来做电影特效，也可以用来诈骗。

同样的AI，可以帮你搜索信息，也可以被人喂养假话。

问题不在于技术有多强大。

问题在于使用技术的人，心里装的是什么。

2026年的315已经过去。

但AI陷阱的故事，才刚刚开始。