浙江法治报 数字报纸


00003版:要闻

发生算法乌龙,平台该担责吗?

  通讯员 互法 

  本报讯 为了应对网上交易欺诈等问题,网络交易平台采取算法技术过滤负面信息,紧急时刻还会启动算法风控系统筛查潜在交易风险。卖家小李(化名)在某网络交易平台出售电子购物卡时,便遇上了算法风控系统审核,还因为这事将平台告上了法庭。

  近日,杭州互联网法院审结了这样一起算法风控系统引发的网络服务合同纠纷案件,认定网络交易平台运营者实施算法风控,尽到了合理注意义务并设计了相应预防措施,不构成违约。

  小李在某网络交易平台注册为会员后,在该平台出售一张价值900余元的电子购物卡。交易完成后,小李发现平台冻结了该笔订单款项。经小李申诉,平台客服尝试与买家联系核实,但买家未帮助小李申诉解冻。

  原告小李诉称,其在正常使用平台期间被冻结了账户资金,导致订单款项无法正常转出。小李认为,被告平台实施算法技术造成误判,此举已构成违约,请求法院判令平台公开道歉。

  被告平台辩称,其为平台运营者,依照法律法规需要对用户在平台行为进行监管,履行平台主体责任。原告交易过程中,被自动化系统识别到存在虚拟交易快速成交的情况,有虚假发货、诱导收货的潜在风险,该笔订单被识别为高风险订单,因此自动触发了风控系统审核规则,冻结订单款项15天。事后,原告致电客服反映情况,该笔订单确为正常订单。平台此举是为了资金安全采取的必要措施,仅是为了公共利益依法履行主体监管职责,不构成违约。

  本案诉讼过程中,被告提交了《关于涉案软件风控审核系统的情况说明》及相关证据,向法庭说明其“预防性风控系统”算法逻辑机理,尽到了相应的算法披露义务。

  针对本案中被告采取涉案算法风控行为并对原告作出相应处置措施是否构成违约这一争议焦点,法院经审理认为,被告基于法律监管要求和公共利益保护的目的,为了交易款项安全,设置预防性风控系统算法应用,对用户行为进行中立、无差别的风险筛查,虽因技术水平所限造成一定系统误判,但此误差为在所难免,也系小概率事件,被告已经尽到了与涉案算法风险相匹配的注意义务,并采取了必要的纠错机制安排,并不构成违约。据此,法院驳回原告的诉讼请求。


浙江法治报 要闻 00003 发生算法乌龙,平台该担责吗? 2023-01-12 2 2023年01月12日 星期四