点策 · AI法治案例库 › 案例总目录 › XZ-13

全国网信系统2024年度执法:未安全评估上线生成式AI服务的App被下架

监管执法年度总量
['
fl-057生成式人工智能服务管理暂行办法03-部门规章现行有效
发文机关国家网信办等七部门
施行日期2023.08.15
与AI的相关关系ChatGPT类生成式AI服务的核心监管规章,备案制、内容安全、训练数据合规
', '
fl-045互联网信息服务算法推荐管理规定03-部门规章现行有效
发文机关国家网信办等四部门
施行日期2022.03.01
与AI的相关关系算法推荐服务备案、算法透明度、用户选择权、防沉迷的直接依据
']

AI 场景

生成式AI服务(具有舆论属性App未经安全评估上线)

适用法律法规

《生成式人工智能服务管理暂行办法》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》

处理结果

对未安全评估上线生成式AI服务的App采取下架、下线功能等处置(整改后复核恢复上架);全年全国网信系统共约谈网站平台11159家、警告/罚款4046家、责令暂停功能或信息更新585家、下架移动应用程序200款

李章虎律师团队简评

本案属于生成式AI服务合规监管类案。《生成式人工智能服务管理暂行办法》第4条要求采取有效措施防止歧视、提高生成内容准确性,第17条要求具有舆论属性或者社会动员能力的服务开展安全评估并依《互联网信息服务算法推荐管理规定》履行算法备案,第14条要求发现违法内容及时处置并向主管部门报告。李章虎律师团队提示:大模型产品上线前应完成算法备案与安全评估,建立违法内容拦截、标识与举报机制,留存训练数据来源说明备查。

简评系李章虎律师团队基于公开报道口径的一般性分析,不构成个案法律意见。

法源依据(引自「合规立场」法源库)

fl-057生成式人工智能服务管理暂行办法03-部门规章现行有效
发文机关国家网信办等七部门
施行日期2023.08.15
与AI的相关关系ChatGPT类生成式AI服务的核心监管规章,备案制、内容安全、训练数据合规
fl-045互联网信息服务算法推荐管理规定03-部门规章现行有效
发文机关国家网信办等四部门
施行日期2022.03.01
与AI的相关关系算法推荐服务备案、算法透明度、用户选择权、防沉迷的直接依据

法源条目与元数据引自「合规立场」AI 合规平台法源库(共 193 件,八级分类);条目详情以法源库原文为准。

来源

中国网信网;奋迅律所政策资讯(引官方年度数据)

原文来源链接:中国网信网

备注

年度综合性执法通报,含多批次未具名处置

本页由 重庆点策网络科技有限公司 整理、运营并持续更新 · 案例总目录 · 返回案例库首页