AI李梓萌卖糖？假得逼真，真得吓人，谁还敢信屏幕里的人？

近期，一起 AI 伪造知名主持人形象进行虚假带货的事件引发广泛关注。AI 生成的 “李梓萌” 出现在多个直播平台，以 “央视主持人” 的身份推销一款名为 “深海多烯鱼油” 的产品，宣称其能治疗头晕、手麻、健忘等症状，将普通糖果包装成 “灵丹妙药”。而真实的李梓萌对此事毫不知情，央视也从未参与相关推广。北京海淀区市场监管局介入调查后，涉事公司因虚假宣传与滥用 AI 技术被依法处罚。这起事件不仅暴露了 AI 伪造技术的滥用风险，更引发公众对 “屏幕里的人是否可信” 的深层担忧 —— 当 AI 能精准模仿名人的言行举止，如何分辨真实与虚假？

在某直播平台的晚间黄金时段，一个标注 “央视主持人推荐” 的直播间吸引了数千人观看。镜头前的 “李梓萌” 身着深色西装，头发梳理整齐，与电视上主持新闻时的形象高度一致。她手持一瓶印有 “深海多烯鱼油” 字样的产品，语速平稳地介绍：“这款鱼油提取自深海鱼类，含有丰富的不饱和脂肪酸，坚持服用能缓解头晕、改善手麻，连老年人常见的健忘问题也能得到解决。”

直播过程中，“李梓萌” 的表情自然，偶尔会抬手调整话筒位置，口型与台词完全同步，甚至在回答观众提问时，会有短暂的思考停顿，这些细节让不少观众误以为是真人出镜。直播间的评论区里，有人留言 “央视推荐的应该靠谱”“李梓萌老师推荐的肯定是好东西”，还有老年观众询问购买链接，准备为家人下单。

但事实上，这款被吹得神乎其神的 “深海多烯鱼油”，经市场监管部门检测，仅是普通糖果，不含任何药用成分，更不具备治疗疾病的功效。真实的李梓萌在事后接受采访时表示，自己从未参与任何直播带货，也未授权任何机构使用其形象。央视方面也发布声明，称此类直播与央视无关，提醒观众警惕虚假信息。

北京海淀区市场监管局接到举报后，迅速锁定涉事公司。经查，该公司通过第三方技术团队，利用李梓萌的公开新闻视频素材，训练 AI 模型生成虚拟形象，再搭配提前录制的脚本音频，制作出直播内容。涉事公司负责人交代，他们选择在晚间 8 点至 10 点直播，这个时段老年观众较多，对 “央视主持人” 的信任度更高，短短半个月内，已通过该直播获利 12 万元。最终，市场监管部门对涉事公司处以 50 万元罚款，并要求平台下架相关直播回放与产品链接。

此次 AI “李梓萌” 事件的争议点，在于其远超以往的逼真度。此前的 AI 伪造内容往往破绽明显，比如 2024 年出现的 “AI 全红婵卖鸡蛋” 视频，不仅声音与真人存在明显差异，肢体动作僵硬不自然，镜头切换时还会出现画面卡顿，普通人一眼就能看出异常。

但这次的 AI “李梓萌” 完全不同。技术团队采用了最新的 “动态表情捕捉 + 语音克隆” 技术，先通过数百段李梓萌的新闻主持视频，提取其面部肌肉运动规律 —— 包括说话时嘴角的弧度、眼神的变化、甚至细微的挑眉动作，再结合实时语音生成技术，让 AI 形象的口型与台词精准匹配。更关键的是，AI 还模仿了李梓萌独特的语言风格：主持时的语速（每分钟约 220 字）、平稳的语调、几乎没有口音的普通话，甚至在强调重点内容时轻微的重音处理，都被完整复刻。

一位从事 AI 技术研发的工程师解释：“现在制作这类 AI 形象的门槛很低，网上有现成的 AI 生成工具，只要上传 10 分钟以上的目标人物视频素材，花 300-500 元就能生成基础模型，再花 1000 元左右优化表情与语音，就能做出足以以假乱真的直播内容。” 更让人担忧的是，这类 AI 直播不需要真人值守，设置好自动回复话术与下单链接后，就能 24 小时不间断开播，平台的 AI 审核系统很难分辨其与真人直播的区别 —— 除非有用户举报，否则很难被发现。

这种低成本、高收益的模式，让不少不法商家趋之若鹜。除了 AI “李梓萌”，近期还出现了 “AI 费玉清装病危卖保健品”“AI 某歌手推荐减肥产品” 等事件，虽然部分已被查处，但仍有大量类似内容隐藏在各个平台的角落。

不法商家选择李梓萌作为 AI 模仿对象，并非随机为之，而是经过精心算计的结果。首先，李梓萌作为央视新闻主持人，长期以专业、严谨的形象出现在公众视野，说话沉稳、表情克制，没有夸张的肢体动作或独特的口音，这种 “低辨识度” 的形象反而更容易被 AI 捕捉规律。

对比全红婵就能发现差异：全红婵说话带有轻微的广东口音，语气起伏较大，采访时经常会有下意识的小动作（比如挠头、抿嘴），这些个性化特征让 AI 难以精准模仿，容易出现破绽。而李梓萌在主持时，为了符合新闻节目的严肃性，表情管理严格，肢体动作少，语速与语调稳定，AI 只需掌握几个核心特征，就能生成相似度极高的形象。

其次，李梓萌的形象与 “健康产品” 的目标受众高度契合。购买保健品的人群以中老年人为主，他们对央视主持人的信任度远高于普通网红，认为 “能上央视的人不会骗人”。不法商家正是利用这种信任，让 AI “李梓萌” 以 “权威推荐” 的身份推销产品，降低观众的警惕性。

更重要的是，央视主持人的形象具有 “通用性”。无论是卖健康产品、家居用品还是食品，“央视主持人推荐” 的标签都能增加产品的可信度，而不像娱乐明星那样，有明确的 “人设限制”。一位曾参与类似骗局的业内人士透露：“我们做过调研，用央视主持人形象带货，转化率比用网红高 3 倍，尤其是中老年用户，几乎不会怀疑形象的真实性。”

AI 伪造名人事件的频发，正在摧毁公众对屏幕内容的信任。以前，观众看到名人推荐产品，会下意识地认为 “至少形象是真的”，但现在，连 “真人出镜” 这个前提都变得不可靠。有网友在社交平台留言：“现在看到费玉清的视频，会先想是不是 AI 做的；看到公益广告里的名人，也会怀疑是不是伪造的，总觉得哪里不对劲。”

这种信任危机还蔓延到权威信息领域。2025 年初，有不法分子利用 AI 伪造某地方政府官员的形象，发布虚假的 “疫情防控通知”，导致部分市民误信后囤积物资，引发短暂的市场混乱。虽然官方很快辟谣，但仍有不少人表示 “以后看到官员讲话，都要去政府官网核实一遍才敢信”。

更严重的是，虚假 AI 内容还可能对名人本人造成伤害。李梓萌的粉丝在事件后留言：“看到有人用她的形象卖假货，特别生气，担心不知情的人会以为她真的为了钱接这种广告，影响她的职业声誉。” 还有网友发现，部分平台上仍有 “AI 李梓萌” 的剪辑片段被传播，甚至被用来制作低俗视频，对名人的个人形象造成不可逆的损害。

面对越来越逼真的 AI 伪造内容，普通人并非毫无办法。北京市消费者协会联合市场监管部门，给出了一套实用的辨别方法，帮助公众避开陷阱。

首先，先质疑 “名人为何会做这件事”。像李梓萌这样的央视主持人，其职业规范明确禁止参与商业带货，尤其是保健品推广。如果看到类似 “央视主持人直播卖货” 的内容，先在心里打个问号：“这符合他的职业身份吗？” 再通过官方渠道核实 —— 比如搜索 “李梓萌 直播 带货”，查看央视或李梓萌本人是否有相关声明，若没有官方信息，基本可以判定为虚假内容。

其次，仔细听声音的 “细节差异”。哪怕 AI 能模仿语速和语调，也很难复刻真人的 “声音质感”。比如李梓萌在主持时，偶尔会有轻微的气音（尤其在长时间说话后），而 AI 生成的声音往往过于 “完美”，没有呼吸感，也没有情绪波动。另外，真人说话时会有自然的停顿（比如思考、换气），而 AI 的停顿往往是固定的，比如每说完一句话停顿 0.5 秒，显得机械刻板。

第三，查产品的 “官方资质”。像涉事的 “深海多烯鱼油”，商家宣称有治疗功效，按照规定，这类产品需取得 “国食健字”（俗称 “蓝帽子” 标志）。消费者可以登录国家药品监督管理局官网，在 “国产保健食品” 查询栏输入产品名称或批准文号，若查不到相关信息，或查询结果与商家宣传不符，就是假冒产品。

此外，还可以借助专业工具辅助辨别。微软推出的 “Azure AI Content Detector” 就是一款免费工具，用户只需上传视频片段或图片，工具会分析画面的 “AI 生成特征”（比如边缘模糊、表情不自然等），给出 “真实度评分”，评分低于 60 分的内容，大概率是 AI 伪造的。还有微信小程序 “AI 鉴别助手”，支持语音、视频、图片的快速检测，操作简单，适合普通用户使用。

北京市消费者协会工作人员提醒：“辨别 AI 内容不需要懂技术，关键是养成‘多核实、不盲从’的习惯。看到吸引你的内容时，别着急下单或转发，花 2 分钟做个简单的核实，就能避免上当受骗。”

监管困境：技术跑在前面，规则如何跟上

尽管 2025 年国家出台了《人工智能生成合成内容管理暂行办法》，明确规定 “不得利用 AI 伪造名人形象进行商业推广”“AI 生成内容需标注‘AI 制作’”，但在实际执行中，仍面临诸多难题。

一方面，AI 技术更新速度远超监管规则。新规出台时，主流的 AI 伪造技术还只能生成静态图片或短视频，而现在已能实现 24 小时实时直播，监管部门需要不断调整检测标准，才能跟上技术变化。一位市场监管人员坦言：“我们的 AI 检测系统每 3 个月就要升级一次，但还是会有漏网之鱼，尤其是一些小平台，根本不配合安装检测工具。”

另一方面，跨平台追溯难度大。涉事公司往往会在多个平台开设账号，用不同的名称直播，一旦某个平台查处，就立刻转战其他平台，监管部门需要协调多个平台同步行动，才能彻底切断其传播路径。此外，部分技术团队会提供 “定制化 AI 服务”，直接为商家生成内容后，不在公开平台传播，而是通过微信群、朋友圈等私域流量推广，更难被发现。

10 月的一个周末，北京市民王阿姨在手机上刷到一个 “名人推荐保健品” 的直播，主播的形象很像她熟悉的一位演员。她想起之前看到的 “AI 李梓萌” 事件，没有立刻下单，而是先去演员的官方微博查看，发现对方并未发布任何带货信息。接着，她用 “AI 鉴别助手” 检测直播片段，评分只有 45 分，确认是 AI 伪造内容后，她向平台举报了该直播间。举报成功后，王阿姨松了口气：“以前看到名人推荐就信，现在知道要多查一查，虽然麻烦点，但能避免被骗。”

社交平台上，关于 AI 伪造内容的讨论仍在继续。有人分享自己的辨别经验，有人呼吁平台加强审核，还有人建议完善相关法律。夕阳下，王阿姨把手机放在桌上，屏幕里正播放着李梓萌主持的新闻节目，她看着真实的主持人形象，轻声说：“还是看正规节目放心，至少知道这个人是真的。”