未按规定履行大模型备案登记义务、AI平台安全与审核过滤能力不足、AI数据投毒、生成合成内容标识落实不到位
《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》
第一阶段(2026.7.6公布):累计处置违规网站/App/智能体等AI产品1.4万余款、清理违法违规信息600余万条、处置账号2.6万余个、下架违规AI商品1300余个及违规开源数据集9个。第二阶段(2026.9.2公布):累计清理违法违规信息561万余条、查处账号4.9万余个、处置违规网站、应用程序等2400余个。通报7类典型案例:AI魔改经典/数字泔水、AI虚假信息、AI假冒仿冒他人、暴力低俗内容、侵害未成年人权益、AI托管网络水军、AI产品服务违规(智能体涉色情低俗,警告/罚款/下架/关闭)
2026.9.2第二阶段升级:数据从第一阶段1.4万AI产品/600万信息/2.6万账号升级为累计561万信息/4.9万账号/2400余网站App;新增7类典型案例通报