浙江法治报 数字报纸


00003版:评论

治理“AI小海”乱象,不能只封号,更要填补人心

  本报评论员 许梅

  近日,央视曝光短视频平台批量涌现的“AI小海”乱象:一个个AI生成的清秀少年,对着镜头一口一个“姨姨妈妈”,以相似的“单亲家庭、生活窘迫”苦情剧本,靠博取中老年女性的同情高价带货。目前该话题播放量突破6亿次,甚至有七旬老人因太挂念“小海”独自坐火车要去探望。

  用AI形象主播直播带货并无不可,但“AI小海”带货被曝光吹哨,在于其本质是披着技术外衣的欺诈行为,绝非简单的 “营销创意”。

  首先,其核心模式已涉嫌构成民事欺诈。根据民法典及消费者权益保护法相关规定,经营者虚构事实、隐瞒真相,诱导消费者作出错误意思表示的,构成欺诈。在这些卖惨带货的视频中,尽管部分视频在画面角落标注了“AI生成”,但这种模糊标识并不能抵消内容本身的恶意误导。运营者使用AI技术虚构事实,刻意编造单亲缺爱、家境贫寒的人设,利用消费者同情心诱导消费,主观牟利目的清晰,客观上使消费者造成错误认识并处分财产,该行为已满足民事欺诈构成要件。

  其次,该行为违反了广告法与AI内容监管规定。广告法明确禁止虚假或者引人误解的商业宣传,而“AI小海”以虚构的个人经历背书商品,本质上是虚假广告的一种新形态。同时,依据《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》规定,AI生成内容应当作出显著标识提示,而多数“AI小海”视频将提示文字缩至角落,甚至刻意隐藏,未尽到告知义务。今年2月起施行的《直播电商监督管理办法》规定,使用AI数字人开展直播电商发生违法行为,由管理、使用该数字人的直播间运营者承担相应法律责任;平台未尽管理义务的,也应依法承担对应责任。如果涉案金额达到刑事立案标准,运营者还可能触犯诈骗罪,承担刑事责任。今年7月,上海市普陀区法院就对一起利用AI直播虚构事实骗取老年人财物案,以诈骗罪定罪,在直播间策划、运营AI骗局的人员均被判刑。

  虚假人设不断迭代,靠卖惨博取情感共鸣的“套路”推陈出新,为何瞄准的都是中老年女性群体?答案藏在情感需求里。沉迷“小海”的中老年女性,或是子女不在身边的空巢老人,或是在家庭生活中情感价值被忽视的母亲、祖母。她们在现实生活中缺少倾诉对象,也很少被人如此亲昵地称呼和在意。懂事、乖巧、嘴甜的“AI小海”们精准填补了她们的情感空缺。这种情感需求,叠加数字鸿沟的认知差,再加上平台算法的持续推送,最终形成信息茧房,让她们成了精准收割的对象。说到底,“AI小海”能“成功”,不是因为骗术有多高明,而是因为它抓住了最柔软的人心。当技术向情感软肋下刀,收割的是钱包,伤害的是人与人之间最朴素的善意与信任。

  治理“AI小海”乱象,不能只盯着几个账号封号下架,需要法律刚性与人情温度双向发力。在法律与监管层面,必须让制度跟上技术的脚步。一方面应进一步细化AI生成内容的标识标准,明确“显著标识”的具体要求,比如不能是角落小字,应在视频开头、播放过程中持续清晰提示,确保老年群体能够识别;另一方面要压实平台责任,利用技术手段批量识别AI数字人卖惨带货内容,做好审核过滤,对高风险账号提前预警,对涉及老年人欺诈的行为从重处置。

  更重要的是,要看见骗局背后的情感需求。法律能守住财产的底线,却填不满情感的空缺。家庭应当给予长辈更多的陪伴与沟通,不只关心物质生活,也关注他们的精神世界;社区可以开展更多适老化数字素养课程,教老人识别AI骗局,也搭建更多线下社交场景;社会也应开发更多面向老年人的正向情感服务,让真实的陪伴胜过虚假的人设。当老年人的情感有处安放,自然就不会在AI生成的幻影里寻找寄托。


浙江法治报 评论 00003 治理“AI小海”乱象,不能只封号,更要填补人心 2026-10-22 28284010 2 2026年10月22日 星期四