浙江法治报 数字报纸


00003版:评论

AI追思的边界在何处

  特约评论员 雷思涵

  “风光烟火清明日,歌哭悲欢城市间。”清明时节扫墓祭拜,是中华民族数千年来的传统习俗。随着数字技术的发展与普及,人们缅怀亲人与追思逝者的方式有了更多可能。基于逝者留存影像而生成的动态影像,似乎不再仅仅是科幻作品中的场景,更切实走入了普通人的日常生活。

  用一张旧照片,就能让逝去的亲人再度鲜活起来,的确让很多人难以抗拒。目前,由于AI技术存在一定门槛,想要“复活”亲人的普通网民多会寻求外部帮助,或使用既有的软件,或购买相应的服务,单是在某电商平台上搜索相关服务,最高的已显示一周内400多人购买,超500人加购。但遗憾的是,这些在互联网流传的软件和服务虽然数量众多,质量却参差不一,售卖方资质也良莠不齐。例如,电商平台上的一些商家会以低廉价格吸引消费者,消费者提供素材后价格也随之上涨,这就可能导致买卖双方产生纠纷。此外,必须要指出的是,现今技术尚不能生成如科幻电影所描绘的、拥有自身思维与言行的数字生命。即便精准复现了已故亲人的形象,但面对拥有相似面容却难以做出回应的影像,期待“再见面”的人们究竟会得到慰藉,还是更加难以释怀,谁也无法给出确切答案。

  通过外部软件和供应商复现逝者形象,还涉及个人隐私和信息数据的安全问题。以AI技术生成逝者的虚拟形象时,往往需要收集包括照片、视频、文字等在内的逝者信息,并将其上传到云端或其它服务器进行处理和存储,如若这些数据未得到妥善保存,则逝者及其家人的隐私就容易泄露。另外,相关软件和插件通常会向用户索取一定的权限。比如,一些商家会要求消费者进入特定小程序、购买会员后方可使用相应功能。而在给予权限后,用户的个人数据如何被收集、储存和使用,却都未可知,由此给消费者的权益埋下了隐患。

  被追忆、被“复活”的对象,还有已逝的公众人物。近期,短视频博主以AI技术“复活”明星一事,便引发了诸多争议。即便相关博主表现得如同缅怀亲人,强调此举是为了安慰生者,但“复活”至亲与“复活”明星仍不可混为一谈。当视频全部由AI合成、相似的话语被重复表达,我们要问的是:言说之人到底是谁?被表达的是逝者的意志还是账户所有者的私心?此类争议的重点就在于,制作者未征得遗属许可而擅自合成数字形象,并存在以此牟利的嫌疑。借助AI怀念至亲的人们,无一不在“复活”过程中投入大量心血。但当视频制作者与逝者不存在情感联结,这类行为也就成为纯粹的技术处理工作,相关视频亦可成为引流工具。将曾鲜活存在的人如此扁平地、带有商业色彩地复现,甚至将人们对公众人物的追思“玩弄”于指间,无疑是对逝者、对普通网民的极大不尊重,更是对逝者家属的二次伤害。

  使用AI技术“复活”公众人物一事,特殊之处还在于公众人物的影响力。尽管已经远离我们,但逝去的公众人物依然被社会成员广泛知晓甚至加以持久关注,其形象一旦出现,便可为某些网络账号或活动背书。更进一步地,如果视频制作者出于某些目的,对这些公众人物的形象和行为进行修改或加工,亦有可能导致人们的误解和偏见,虚假新闻、谣言和纠纷也就如影随形。因此,这些视频不但可能侵犯逝者和逝者亲属的权益,也不利于网络生态环境的良好发展。

  AI技术的发展越来越迅猛、应用越来越普及,从数据分析、自然语言处理等领域延伸至内容创作与重塑,在一定程度上影响着人们的社会行为与记忆;同时,AI技术也触及越来越多的盲区,对监管和治理提出了挑战。2023年,国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》,从法律法规层面规范生成式AI技术的健康发展、防范相关风险。AI行业和技术平台作为相关主体,也需践行“技术向善”的理念,建立、完善并落实标准规范,谨防AI技术可能带来的侵权、隐私泄露、虚假信息和电信诈骗等乱象。


浙江法治报 评论 00003 AI追思的边界在何处 2024-04-02 26749435 2 2024年04月02日 星期二