上海"亮剑浦江·2026"未成年人网络保护专项执法通报AI技术滥用典型案例（某AI情感陪伴类APP向未成年人提供"恋爱角色扮演"生成低俗诱导内容被行政罚款+某平台AI客服生成"绕过防沉迷系统"攻略教程被约谈）

类别

监管执法

时间

2026.7以来查处；2026.9.12通报

地域

上海市

省份

上海市

执法/司法主体

上海市网信办（"亮剑浦江·2026"专项执法行动，市委网信办联合公安、文旅、检察等部门未成年人网络保护四方协同机制）

执法对象

单位

主体层级

个案

涉及单位数

2

AI 场景

AI情感陪伴类APP向未成年人用户提供"恋爱角色扮演"服务，AI角色对话生成大量诱导不良交友、低俗挑逗内容（案例1）；属地某平台"AI助手"按用户指令生成指导未成年人绕过网络游戏防沉迷模式的攻略教程（案例4）

适用法律法规

《未成年人网络保护条例》第二十五条；《未成年人保护法》；《人工智能拟人化互动服务管理暂行办法》（2026.7.15施行）

处理结果

案例1：对AI情感陪伴类APP运营主体作出行政罚款处罚，责令加强未成年人身份识别、落实《人工智能拟人化互动服务管理暂行办法》相关要求；案例4：对平台开展执法约谈，责令立即屏蔽、删除相关违规生成内容，并优化AI模型技术防控措施防止输出规避监管的诱导性信息

来源

上海市网信办官方微信公众号"网信上海"通报；东方网报道

原文来源链接：东方网（转"网信上海"官方公号"亮剑浦江·2026"通报）

备注

系《人工智能拟人化互动服务管理暂行办法》（五部门令第21号）2026年7月15日施行后首批公开适用该办法的AI情感陪伴类执法案例之一；AI客服生成"绕过防沉迷攻略"系AI生成内容诱导未成年人规避监管的新类型；专项行动期间累计约谈属地平台12次