通过改写系统提示词、设定角色卡、搭建对话场景等提示词工程突破生成式AI模型内置色情内容安全限制,使用户付费后自动生成淫秽静/动态图片牟利
《刑法》第363条(制作淫秽物品牟利罪)
郑某等6名被告人以牟利为目的结伙利用AI技术制作淫秽物品,情节严重,均构成制作淫秽物品牟利罪;2026.3.24余姚市检察院提起公诉;2026.6.16余姚市法院分别判处有期徒刑三年十个月至三年一个月不等,并处罚金;一审判决后均未上诉,判决已生效
全国首例利用生成式AI“越狱”造黄牟利刑事案件;被告人郑某原为国内某游戏大厂AI领域程序员,2024年7月萌生开发同类软件牟利想法,2025年1月涉案AI模型在境外平台上线运营,接入第四方支付、虚拟币等充值渠道;运营期间生成静态图片37万余张、动态图片6000余张,收取充值折合人民币约17万元;经鉴定9000余张静态图片、5000余张动态图片为淫秽物品;法院确立“开发者对AI模型输出具有实质控制力即构成刑法意义上制作者”的裁判规则;【2026.9.27升级·双审直入】赤壁市人民检察院头条号2026.9.26办案文章披露精确程序节点(2025.12移送审查起诉、2026.3.24提起公诉、2026.6.16一审判决三年十个月至三年一个月并处罚金),裁判日期由原“2026.9(媒体推断)”回填修正为2026.6.16;升级来源核证:检察系统官方账号发布,与中新网2026.9.8同案报道(6人获刑·制作淫秽物品牟利罪·余姚法院·判决已生效)交叉一致;补充链接:https://www.toutiao.com/article/7687551018518774323