点策 · AI法治案例库 › 案例总目录 › XZ-94

四川某科技公司运营微信小程序提供AI文本对话、图片生成服务未落实生成合成内容标识要求案(国家网信办执法典型案例·责令下线)

监管执法个案
['
fl-057生成式人工智能服务管理暂行办法03-部门规章现行有效
发文机关国家网信办等七部门
施行日期2023.08.15
与AI的相关关系ChatGPT类生成式AI服务的核心监管规章,备案制、内容安全、训练数据合规
', '
fl-045互联网信息服务算法推荐管理规定03-部门规章现行有效
发文机关国家网信办等四部门
施行日期2022.03.01
与AI的相关关系算法推荐服务备案、算法透明度、用户选择权、防沉迷的直接依据
']

AI 场景

企业AI服务合规类——小程序提供AI文本对话、图片生成服务,未对AI生成合成内容添加显式标识,未在文件元数据中添加含属性信息、服务提供者名称或编码、内容编号等制作要素信息的隐式标识,提供导出功能时亦未添加显式标识,且未按规定落实安全评估要求

适用法律法规

《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》

处理结果

网信部门依法责令下线该小程序

李章虎律师团队简评

本案属于生成式AI服务合规监管类案。《生成式人工智能服务管理暂行办法》第4条要求采取有效措施防止歧视、提高生成内容准确性,第17条要求具有舆论属性或者社会动员能力的服务开展安全评估并依《互联网信息服务算法推荐管理规定》履行算法备案,第14条要求发现违法内容及时处置并向主管部门报告。李章虎律师团队提示:大模型产品上线前应完成算法备案与安全评估,建立违法内容拦截、标识与举报机制,留存训练数据来源说明备查。

简评系李章虎律师团队基于公开报道口径的一般性分析,不构成个案法律意见。

法源依据(引自「合规立场」法源库)

fl-057生成式人工智能服务管理暂行办法03-部门规章现行有效
发文机关国家网信办等七部门
施行日期2023.08.15
与AI的相关关系ChatGPT类生成式AI服务的核心监管规章,备案制、内容安全、训练数据合规
fl-045互联网信息服务算法推荐管理规定03-部门规章现行有效
发文机关国家网信办等四部门
施行日期2022.03.01
与AI的相关关系算法推荐服务备案、算法透明度、用户选择权、防沉迷的直接依据

法源条目与元数据引自「合规立场」AI 合规平台法源库(共 193 件,八级分类);条目详情以法源库原文为准。

来源

国家网信办2026.9.15发布《近期网络安全、数据安全、个人信息保护等领域执法典型案例》(案例9)

原文来源链接:中国网信网(官方一手)

备注

系《人工智能生成合成内容标识办法》施行后国家网信办层面集中通报的AI生成合成内容标识违法典型执法案例(同时叠加未落实安全评估要求);显式标识+元数据隐式标识+导出标识三重义务均未落实,对AI对话/绘图类小程序服务提供者的标识合规义务具有直接指引意义;通报未披露企业名称,责令下线无罚款金额公示

本页由 重庆点策网络科技有限公司 整理、运营并持续更新 · 案例总目录 · 返回案例库首页