点策 · AI法治案例库 › 案例总目录 › XZ-103

濮阳市网信部门依法处置账号“钱**量”利用AI生成“儿童走丢”虚假视频且未添加AI生成标识案(辟谣+下架删除)

监管执法个案
['
fl-028中华人民共和国网络安全法(2025修正)01-法律现行有效
发文机关全国人大常委会(2025修正:十四届全国人大常委会第十八次会议)
施行日期2026.01.01
与AI的相关关系2025修正首次将AI纳入网络安全法律体系,新增第20条要求完善AI伦理规范、风险监测评估
', '
fl-018中华人民共和国未成年人保护法01-法律现行有效
发文机关全国人大常委会
施行日期2024.04.26
与AI的相关关系AI产品面向未成年人的特殊保护义务、防沉迷、内容过滤要求
', '
fl-036未成年人网络保护条例02-行政法规现行有效
发文机关国务院
施行日期2024.01.01
与AI的相关关系AI产品面向未成年人的内容过滤、防沉迷、算法透明度要求
', '
fl-044互联网信息服务深度合成管理规定03-部门规章现行有效
发文机关国家网信办等三部门
施行日期2023.01.10
与AI的相关关系深度伪造/AI换脸服务提供者的内容标识、安全评估、备案义务
']

AI 场景

利用AI生成技术发布“儿童走丢”虚假视频内容博取流量,且未添加AI生成标识,极易误导网民造成不良影响

适用法律法规

通报未逐案载明援引法条;“未添加AI生成标识”涉及《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》项下生成合成内容标识义务

处理结果

网信部门第一时间通过官方渠道发布辟谣声明公开澄清,违规视频已被平台下架删除

李章虎律师团队简评

本案属于涉未成年人AI保护类案。《网络安全法》第13条要求支持有利于未成年人健康成长的网络内容与服务,《未成年人保护法》及《未成年人网络保护条例》对网络产品和服务设置未成年人保护义务,《互联网信息服务深度合成管理规定》第6条禁止利用深度合成服务侵害他人合法权益。李章虎律师团队提示:面向未成年人的AI产品应配置防沉迷、内容过滤与监护人同意机制,涉及未成年人形象的深度合成应从严把关。

简评系李章虎律师团队基于公开报道口径的一般性分析,不构成个案法律意见。

法源依据(引自「合规立场」法源库)

fl-028中华人民共和国网络安全法(2025修正)01-法律现行有效
发文机关全国人大常委会(2025修正:十四届全国人大常委会第十八次会议)
施行日期2026.01.01
与AI的相关关系2025修正首次将AI纳入网络安全法律体系,新增第20条要求完善AI伦理规范、风险监测评估
fl-018中华人民共和国未成年人保护法01-法律现行有效
发文机关全国人大常委会
施行日期2024.04.26
与AI的相关关系AI产品面向未成年人的特殊保护义务、防沉迷、内容过滤要求
fl-036未成年人网络保护条例02-行政法规现行有效
发文机关国务院
施行日期2024.01.01
与AI的相关关系AI产品面向未成年人的内容过滤、防沉迷、算法透明度要求
fl-044互联网信息服务深度合成管理规定03-部门规章现行有效
发文机关国家网信办等三部门
施行日期2023.01.10
与AI的相关关系深度伪造/AI换脸服务提供者的内容标识、安全评估、备案义务

法源条目与元数据引自「合规立场」AI 合规平台法源库(共 193 件,八级分类);条目详情以法源库原文为准。

来源

濮阳网信、公安(“网信濮阳”微信公众号;河南省网络辟谣平台转载)

原文来源链接:河南省网络辟谣平台(“网信濮阳”通报转载)

备注

濮阳市10起典型案例(案例九);“AI生成内容未添加标识”系新型违规情形;视频此前已辟谣下架,本次系列入典型案例集中通报(与7月濮阳范县“德水新城”走失视频辟谣事件疑似同源,待核证)。

本页由 重庆点策网络科技有限公司 整理、运营并持续更新 · 案例总目录 · 返回案例库首页