点策 · AI法治案例库 › 案例总目录 › XZ-87

上海"亮剑浦江·2026"未成年人网络保护专项执法通报AI技术滥用典型案例(某AI情感陪伴类APP向未成年人提供"恋爱角色扮演"生成低俗诱导内容被行政罚款+某平台AI客服生成"绕过防沉迷系统"攻略教程被约谈)

监管执法个案
['
fl-028中华人民共和国网络安全法(2025修正)01-法律现行有效
发文机关全国人大常委会(2025修正:十四届全国人大常委会第十八次会议)
施行日期2026.01.01
与AI的相关关系2025修正首次将AI纳入网络安全法律体系,新增第20条要求完善AI伦理规范、风险监测评估
', '
fl-018中华人民共和国未成年人保护法01-法律现行有效
发文机关全国人大常委会
施行日期2024.04.26
与AI的相关关系AI产品面向未成年人的特殊保护义务、防沉迷、内容过滤要求
', '
fl-036未成年人网络保护条例02-行政法规现行有效
发文机关国务院
施行日期2024.01.01
与AI的相关关系AI产品面向未成年人的内容过滤、防沉迷、算法透明度要求
', '
fl-044互联网信息服务深度合成管理规定03-部门规章现行有效
发文机关国家网信办等三部门
施行日期2023.01.10
与AI的相关关系深度伪造/AI换脸服务提供者的内容标识、安全评估、备案义务
']

AI 场景

AI情感陪伴类APP向未成年人用户提供"恋爱角色扮演"服务,AI角色对话生成大量诱导不良交友、低俗挑逗内容(案例1);属地某平台"AI助手"按用户指令生成指导未成年人绕过网络游戏防沉迷模式的攻略教程(案例4)

适用法律法规

《未成年人网络保护条例》第二十五条;《未成年人保护法》;《人工智能拟人化互动服务管理暂行办法》(2026.7.15施行)

处理结果

案例1:对AI情感陪伴类APP运营主体作出行政罚款处罚,责令加强未成年人身份识别、落实《人工智能拟人化互动服务管理暂行办法》相关要求;案例4:对平台开展执法约谈,责令立即屏蔽、删除相关违规生成内容,并优化AI模型技术防控措施防止输出规避监管的诱导性信息

李章虎律师团队简评

本案属于涉未成年人AI保护类案。《网络安全法》第13条要求支持有利于未成年人健康成长的网络内容与服务,《未成年人保护法》及《未成年人网络保护条例》对网络产品和服务设置未成年人保护义务,《互联网信息服务深度合成管理规定》第6条禁止利用深度合成服务侵害他人合法权益。李章虎律师团队提示:面向未成年人的AI产品应配置防沉迷、内容过滤与监护人同意机制,涉及未成年人形象的深度合成应从严把关。

简评系李章虎律师团队基于公开报道口径的一般性分析,不构成个案法律意见。

法源依据(引自「合规立场」法源库)

fl-028中华人民共和国网络安全法(2025修正)01-法律现行有效
发文机关全国人大常委会(2025修正:十四届全国人大常委会第十八次会议)
施行日期2026.01.01
与AI的相关关系2025修正首次将AI纳入网络安全法律体系,新增第20条要求完善AI伦理规范、风险监测评估
fl-018中华人民共和国未成年人保护法01-法律现行有效
发文机关全国人大常委会
施行日期2024.04.26
与AI的相关关系AI产品面向未成年人的特殊保护义务、防沉迷、内容过滤要求
fl-036未成年人网络保护条例02-行政法规现行有效
发文机关国务院
施行日期2024.01.01
与AI的相关关系AI产品面向未成年人的内容过滤、防沉迷、算法透明度要求
fl-044互联网信息服务深度合成管理规定03-部门规章现行有效
发文机关国家网信办等三部门
施行日期2023.01.10
与AI的相关关系深度伪造/AI换脸服务提供者的内容标识、安全评估、备案义务

法源条目与元数据引自「合规立场」AI 合规平台法源库(共 193 件,八级分类);条目详情以法源库原文为准。

来源

上海市网信办官方微信公众号"网信上海"通报;东方网报道

原文来源链接:东方网(转"网信上海"官方公号"亮剑浦江·2026"通报)

备注

系《人工智能拟人化互动服务管理暂行办法》(五部门令第21号)2026年7月15日施行后首批公开适用该办法的AI情感陪伴类执法案例之一;AI客服生成"绕过防沉迷攻略"系AI生成内容诱导未成年人规避监管的新类型;专项行动期间累计约谈属地平台12次

本页由 重庆点策网络科技有限公司 整理、运营并持续更新 · 案例总目录 · 返回案例库首页