点策 · AI法治案例库 › 案例总目录 › XZ-102

濮阳市网信部门依法处置账号“淼淼*”滥用AI批量生成低俗擦边图片视频案(账号注销)

监管执法个案
['
fl-028中华人民共和国网络安全法(2025修正)01-法律现行有效
发文机关全国人大常委会(2025修正:十四届全国人大常委会第十八次会议)
施行日期2026.01.01
与AI的相关关系2025修正首次将AI纳入网络安全法律体系,新增第20条要求完善AI伦理规范、风险监测评估
', '
fl-018中华人民共和国未成年人保护法01-法律现行有效
发文机关全国人大常委会
施行日期2024.04.26
与AI的相关关系AI产品面向未成年人的特殊保护义务、防沉迷、内容过滤要求
', '
fl-036未成年人网络保护条例02-行政法规现行有效
发文机关国务院
施行日期2024.01.01
与AI的相关关系AI产品面向未成年人的内容过滤、防沉迷、算法透明度要求
', '
fl-044互联网信息服务深度合成管理规定03-部门规章现行有效
发文机关国家网信办等三部门
施行日期2023.01.10
与AI的相关关系深度伪造/AI换脸服务提供者的内容标识、安全评估、备案义务
']

AI 场景

滥用AI技术批量生成凸显女性特定身体部位、衣着暴露、搔首弄姿等低俗擦边图片视频,扰乱网络传播秩序,危害未成年人身心健康

适用法律法规

通报未逐案载明援引法条(“清朗”“净网”系列专项行动通行依据《网络安全法》《网络信息内容生态治理规定》)

处理结果

经网信部门依法依规处置,账号已注销

李章虎律师团队简评

本案属于涉未成年人AI保护类案。《网络安全法》第13条要求支持有利于未成年人健康成长的网络内容与服务,《未成年人保护法》及《未成年人网络保护条例》对网络产品和服务设置未成年人保护义务,《互联网信息服务深度合成管理规定》第6条禁止利用深度合成服务侵害他人合法权益。李章虎律师团队提示:面向未成年人的AI产品应配置防沉迷、内容过滤与监护人同意机制,涉及未成年人形象的深度合成应从严把关。

简评系李章虎律师团队基于公开报道口径的一般性分析,不构成个案法律意见。

法源依据(引自「合规立场」法源库)

fl-028中华人民共和国网络安全法(2025修正)01-法律现行有效
发文机关全国人大常委会(2025修正:十四届全国人大常委会第十八次会议)
施行日期2026.01.01
与AI的相关关系2025修正首次将AI纳入网络安全法律体系,新增第20条要求完善AI伦理规范、风险监测评估
fl-018中华人民共和国未成年人保护法01-法律现行有效
发文机关全国人大常委会
施行日期2024.04.26
与AI的相关关系AI产品面向未成年人的特殊保护义务、防沉迷、内容过滤要求
fl-036未成年人网络保护条例02-行政法规现行有效
发文机关国务院
施行日期2024.01.01
与AI的相关关系AI产品面向未成年人的内容过滤、防沉迷、算法透明度要求
fl-044互联网信息服务深度合成管理规定03-部门规章现行有效
发文机关国家网信办等三部门
施行日期2023.01.10
与AI的相关关系深度伪造/AI换脸服务提供者的内容标识、安全评估、备案义务

法源条目与元数据引自「合规立场」AI 合规平台法源库(共 193 件,八级分类);条目详情以法源库原文为准。

来源

濮阳网信、公安(“网信濮阳”微信公众号;河南省网络辟谣平台转载)

原文来源链接:河南省网络辟谣平台(“网信濮阳”通报转载)

备注

载于濮阳市网信、公安2026.9.18集中公布的10起典型案例(案例八);发布平台为河南省网络辟谣平台。AI批量生成低俗擦边内容危害未成年人属新型违规情形。

本页由 重庆点策网络科技有限公司 整理、运营并持续更新 · 案例总目录 · 返回案例库首页