(北京互联网法院)首例算法风控系统引发人身权益侵权纠纷案(“杀猪盘”误判案)
司法裁判
['fl-005中华人民共和国刑法(2023修正)01-法律现行有效
发文机关全国人大常委会
施行日期2024.03.01
与AI的相关关系非法获取计算机数据、侵犯公民个人信息等AI相关犯罪的刑事追责
', 'fl-190中华人民共和国反电信网络诈骗法01-法律现行有效
发文机关全国人大常委会(2022-09-02 十三届全国人大常委会第三十六次会议通过,主席令第119号)
施行日期2022.12.01
与AI的相关关系AI换脸/拟声等深度伪造技术被用于冒充熟人与机构实施电信网络诈骗时的预防性专门立法;电信、金融、互联网企业负有涉诈风险防控与异常监测义务(第二章电信治理、第三章金融治理、第四章互联网治理)。AI反诈产品与深伪检测服务的合规边界、平台责任划分的专门依据。
']
AI 场景
平台算法风控系统将正常用户误标为“杀猪盘”诈骗特征
适用法律法规
《个人信息保护法》自动化决策条款;《民法典》人格权编
处理结果
认定平台算法自动化决策侵害用户合法权益,承担相应责任
李章虎律师团队简评
本案属于利用AI实施诈骗类案。深度伪造语音与人脸大幅降低冒充熟人、机构的信任成本,《刑法》第266条(诈骗罪)、第287条之二(帮助信息网络犯罪活动罪)均可能适用,《反电信网络诈骗法》并要求电信、金融、互联网企业履行涉诈风险防控义务。李章虎律师团队提示:涉转账汇款的“熟人”语音视频请求务必经既有可信渠道二次核验;企业客服与支付环节应部署深伪风险提示与多重验证。
简评系李章虎律师团队基于公开报道口径的一般性分析,不构成个案法律意见。
法源依据(引自「合规立场」法源库)
fl-005中华人民共和国刑法(2023修正)01-法律现行有效
发文机关全国人大常委会
施行日期2024.03.01
与AI的相关关系非法获取计算机数据、侵犯公民个人信息等AI相关犯罪的刑事追责
fl-190中华人民共和国反电信网络诈骗法01-法律现行有效
发文机关全国人大常委会(2022-09-02 十三届全国人大常委会第三十六次会议通过,主席令第119号)
施行日期2022.12.01
与AI的相关关系AI换脸/拟声等深度伪造技术被用于冒充熟人与机构实施电信网络诈骗时的预防性专门立法;电信、金融、互联网企业负有涉诈风险防控与异常监测义务(第二章电信治理、第三章金融治理、第四章互联网治理)。AI反诈产品与深伪检测服务的合规边界、平台责任划分的专门依据。
法源条目与元数据引自「合规立场」AI 合规平台法源库(共 193 件,八级分类);条目详情以法源库原文为准。
来源
北京互联网法院涉AI典型案例(2025.9发布);公开报道
原文来源链接:北京互联网法院
备注
首例算法风控误判人身权益案;案号未公开(以官方发布为准)