上海青浦法院全国首例利用AI"幻觉"恶意取证司法惩戒案(速某公司诉震某行商标侵权反被罚款10万)
司法裁判个案
['fl-057生成式人工智能服务管理暂行办法03-部门规章现行有效
发文机关国家网信办等七部门
施行日期2023.08.15
与AI的相关关系ChatGPT类生成式AI服务的核心监管规章,备案制、内容安全、训练数据合规
', 'fl-045互联网信息服务算法推荐管理规定03-部门规章现行有效
发文机关国家网信办等四部门
施行日期2022.03.01
与AI的相关关系算法推荐服务备案、算法透明度、用户选择权、防沉迷的直接依据
']
AI 场景
当事人高频定向搜索诱导百度AI大模型生成虚假侵权链接(人为制造AI"幻觉"取证)
适用法律法规
《民事诉讼法》诚信原则与虚假诉讼司法惩戒规定;《商标法》
处理结果
一审不准许撤诉、判决驳回原告全部诉讼请求,并对速某公司罚款10万元;上海知识产权法院驳回复议申请、维持原决定
李章虎律师团队简评
本案属于生成式AI服务合规监管类案。《生成式人工智能服务管理暂行办法》第4条要求采取有效措施防止歧视、提高生成内容准确性,第17条要求具有舆论属性或者社会动员能力的服务开展安全评估并依《互联网信息服务算法推荐管理规定》履行算法备案,第14条要求发现违法内容及时处置并向主管部门报告。李章虎律师团队提示:大模型产品上线前应完成算法备案与安全评估,建立违法内容拦截、标识与举报机制,留存训练数据来源说明备查。
简评系李章虎律师团队基于公开报道口径的一般性分析,不构成个案法律意见。
法源依据(引自「合规立场」法源库)
fl-057生成式人工智能服务管理暂行办法03-部门规章现行有效
发文机关国家网信办等七部门
施行日期2023.08.15
与AI的相关关系ChatGPT类生成式AI服务的核心监管规章,备案制、内容安全、训练数据合规
fl-045互联网信息服务算法推荐管理规定03-部门规章现行有效
发文机关国家网信办等四部门
施行日期2022.03.01
与AI的相关关系算法推荐服务备案、算法透明度、用户选择权、防沉迷的直接依据
法源条目与元数据引自「合规立场」AI 合规平台法源库(共 193 件,八级分类);条目详情以法源库原文为准。
备注
速某公司2024.10-11月间对"智速迈"相关关键词进行930次/941条高频定向搜索(98.8%集中于取证前后、858次定位福州与取证地点吻合),人为诱导百度AI大模型错误建立"智速迈"商标与震某行推广页面的语义关联、生成不存在的广告链接后公证起诉索赔3万元;系全国首例对当事人利用AI"幻觉"恶意取证予以民事制裁的司法惩戒案