浙江法治报 数字报纸


00001版:要闻

用ChatGPT制作上万个假视频,两人因这个罪名被逮捕

  本报记者 陈贞妃 通讯员 李媛 朱晓菲

  本报讯 为了获取更多点击量,利用最近火爆的ChatGPT技术制作上万个假视频发布。7月13日,制作团伙中的两名犯罪嫌疑人张某、陈某被绍兴市上虞区检察院以编造、故意传播虚假信息罪批准逮捕。这也是全省首例利用ChatGPT制作虚假视频案。

  “浙江工业园区现大火,浓烟滚滚,目击者称有爆炸声。”今年5月30日,一则“上虞工业园区发生火灾”的视频在某平台发布,点击量迅速攀升。警方介入核实后,发现该视频是虚假杜撰,制作视频的三名犯罪嫌疑人很快被抓获归案。

  令人意想不到的是,假视频的制作者是一名连电脑都用得不太明白的女子。36岁的汤某原先是家庭主妇,仅有初中文化。自2023年4月开始,汤某入职亲戚开的山东某网络科技公司。该公司主要通过发布动漫视频吸引流量,平台根据视频的点击量、播放时长、评论量、点赞量通过算法进行返利。汤某入职后也只是做些发布视频的简单工作。

  今年5月,汤某的小组长传授给她一个利用AI技术快速制作视频的方法。汤某的工作就变成了每天从网上寻找网络热点,利用ChatGPT技术自动生成脚本,再通过其他软件自动剪辑合成新的视频。通过ChatGPT技术,最少仅需一分钟就可以将视频制作完成,不仅效率大大提高,点击量也不错。“上虞工业园区发生火灾”的视频便是汤某通过人工智能技术进行“无中生有”拼接而成。

  为何想到利用ChatGPT这类人工智能技术?原来,由于人工剪辑动漫视频需要的时间较长,花费的精力也较多,因此一个动漫视频制作完成后,该公司常常会在多个平台账号重复推送,却导致大量账号被封。为规避平台查重功能,获取更多流量获利,公司的两个老板陈某、张某就另辟蹊径。

  陈某将利用ChatGPT技术制作视频的方法传授给公司小组长,小组长又传授给员工。而张某则通过微信、贴吧等途径购买多个平台账号,包含邮箱号、密码、手机号、实名认证的身份证号码等。截至案发,该公司已非法购买平台账号2900余个,发布虚假视频1万余个,涉及浙江、湖南、上海、四川、贵州、河北等多地,其中20条涉及警情、灾情、险情的虚假视频点击量高达160余万次,导致大量虚假信息在网络上传播。

  “这类虚假信息,容易引起社会恐慌或产生公共安全危机。陈某、张某等人编造虚假的警情、灾情、险情,在信息网络或其他媒体上传播的行为已经涉嫌编造、故意传播虚假信息罪。”承办检察官表示,案发后,上虞区检察院侦查协作与配合办公室第一时间提前介入,最终对陈某、张某作出批准逮捕决定。汤某等七名员工因在团队中为最下游组员且作用较小,被依法取保候审。


浙江法治报 要闻 00001 用ChatGPT制作上万个假视频,两人因这个罪名被逮捕 2023-07-14 25968811 2 2023年07月14日 星期五