全红婵遭AI合成直播带货 中国官媒批“无下限”

“大家好，我是婵宝，叔叔阿姨可以下单试试”、“我是全红婵哥哥全进华，为大家准备了2000单的蜂蜜，16块9发两斤”……

中国各大社交平台充斥着人工智能（AI）合成、深伪影片，甚至能够以假乱真情况，中国官媒《人民日报》也发文痛批“不能如此无下限”！

报道指，社交平台上多个帐号利用奥运跳水冠军全红婵及其家人名义，以AI合成语音和影像制作虚假带货影片。全红婵家人多次明确澄清，相关影片均为伪造，许多消费者依旧信以为真，下单后直呼受骗。此事件也揭露了AI虚假带货的黑产链条与中国目前法律监管出现空白的情况。

利用话术诈骗

中国官媒《人民日报》日发文以《AI合成名人明星声音虚假带货，不能如此无下限》为题，痛批现在AI技术冒用名人引流的诈骗手法，甚至以假乱真在各大社交平台带货。

文章称，这些诈骗手法利用全红婵声音，并打着全红婵名义的AI合成带货影片在社交平台流传，内容仿真度高、语言亲切，引发大量转发与下单。不少网友看到熟悉的面孔和声音，出于对奥运冠军的信任，纷纷购买商品。

报道指，尽管全红婵家人随后澄清，这些影片完全是AI伪造，他们本人从未参与相关销售活动。虚假带货事件曝光后，大量消费者发现自己上当受骗。

内容痛批商家“无底线”，技术理应向上向善，AI合成技术的使用应有边界。 《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等在内容审核、信息标识上对生成式AI的规范使用提出了要求。对于滥用AI技术虚假宣传“无底线博流量”的乱象，相关部门应严厉打击，加重赔偿性惩罚处置。

同时也建议短视频平台应主动加强对AI生成内容审核，建立AI带货可追溯标识，既实现侵权行为的实时预警，也实现虚假侵权行为的快速“倒查倒追”。消费者也应主动学习相关知识，提高防骗意识。

名人深受其害

中官媒《新华社》旗下新媒体微信公众号“半月谈”也发文表示，近期，从中国知名演艺圈人士，到有声望的企业家，再到两院院士，不少公众人物都遭到不法商家的“AI花招”暗算，其形象出现在虚假宣传广告中。

“从2018年9月至2025年2月底，我们共受理涉网路消费虚假宣传案件6734件，整体呈现上升态势。”

北京互联网法院副院长仪军介绍，案件涉及商品品类广泛，从生活常用的服装、食品、电子产品，到尤受消费者关注的美妆、母婴用品，再到珠宝文玩等奢侈品。电商平台、直播间购物、二手交易平台、社区团购等，都有虚假宣传冒头。

中国消费者协会副秘书长潘海峰受访时也表示，鼓励平台经营者开展自查自纠，对宣传文案、广告内容、用户评价等环节进行定期和动态核查，及时下架问题商品或整改不当行为。

仪军呼吁，建立健全平台内经营者信息审核制度，建立健全商品信息巡检措施。消费者要主动留存与消费有关的交易记录、沟通记录、支付凭证、开箱视频等证据，在涉及直播间下单的情形时，就相关沟通内容必要时可以采用拍摄、第三方取证工具、公证等方式及时固定证据。

专家也建议，畅通平台快速举报处理机制，单独新增设置举报选项。各地法院对于经营者利用AI技术构成欺诈的案件，应当依法作出适用惩罚性赔偿判