点策 · AI法治案例库 › 案例总目录 › XZ-16

上海市网信办约谈“筑梦岛”App案(AI陪伴类产品低俗擦边)

监管执法个案
['
fl-028中华人民共和国网络安全法(2025修正)01-法律现行有效
发文机关全国人大常委会(2025修正:十四届全国人大常委会第十八次会议)
施行日期2026.01.01
与AI的相关关系2025修正首次将AI纳入网络安全法律体系,新增第20条要求完善AI伦理规范、风险监测评估
', '
fl-018中华人民共和国未成年人保护法01-法律现行有效
发文机关全国人大常委会
施行日期2024.04.26
与AI的相关关系AI产品面向未成年人的特殊保护义务、防沉迷、内容过滤要求
', '
fl-036未成年人网络保护条例02-行政法规现行有效
发文机关国务院
施行日期2024.01.01
与AI的相关关系AI产品面向未成年人的内容过滤、防沉迷、算法透明度要求
', '
fl-044互联网信息服务深度合成管理规定03-部门规章现行有效
发文机关国家网信办等三部门
施行日期2023.01.10
与AI的相关关系深度伪造/AI换脸服务提供者的内容标识、安全评估、备案义务
']

AI 场景

AI虚拟陪伴/AI智能体对话生成低俗擦边内容,危害未成年人身心健康

适用法律法规

《未成年人网络保护条例》《生成式人工智能服务管理暂行办法》

处理结果

约谈运营企业主要负责人,责令立即整改、健全AI生成合成内容审核机制、加强涉未成年人不良内容清理

李章虎律师团队简评

本案属于涉未成年人AI保护类案。《网络安全法》第13条要求支持有利于未成年人健康成长的网络内容与服务,《未成年人保护法》及《未成年人网络保护条例》对网络产品和服务设置未成年人保护义务,《互联网信息服务深度合成管理规定》第6条禁止利用深度合成服务侵害他人合法权益。李章虎律师团队提示:面向未成年人的AI产品应配置防沉迷、内容过滤与监护人同意机制,涉及未成年人形象的深度合成应从严把关。

简评系李章虎律师团队基于公开报道口径的一般性分析,不构成个案法律意见。

法源依据(引自「合规立场」法源库)

fl-028中华人民共和国网络安全法(2025修正)01-法律现行有效
发文机关全国人大常委会(2025修正:十四届全国人大常委会第十八次会议)
施行日期2026.01.01
与AI的相关关系2025修正首次将AI纳入网络安全法律体系,新增第20条要求完善AI伦理规范、风险监测评估
fl-018中华人民共和国未成年人保护法01-法律现行有效
发文机关全国人大常委会
施行日期2024.04.26
与AI的相关关系AI产品面向未成年人的特殊保护义务、防沉迷、内容过滤要求
fl-036未成年人网络保护条例02-行政法规现行有效
发文机关国务院
施行日期2024.01.01
与AI的相关关系AI产品面向未成年人的内容过滤、防沉迷、算法透明度要求
fl-044互联网信息服务深度合成管理规定03-部门规章现行有效
发文机关国家网信办等三部门
施行日期2023.01.10
与AI的相关关系深度伪造/AI换脸服务提供者的内容标识、安全评估、备案义务

法源条目与元数据引自「合规立场」AI 合规平台法源库(共 193 件,八级分类);条目详情以法源库原文为准。

来源

“网信上海”通报(江苏网信转载)

备注

典型案例AI陪伴类产品未成年人保护执法(与美国Character.AI涉未成年人自杀诉讼同题的国内监管回应)

本页由 重庆点策网络科技有限公司 整理、运营并持续更新 · 案例总目录 · 返回案例库首页