点策 · AI法治案例库 › 案例总目录 › SJ-137

郑某等六人利用生成式人工智能「越狱」批量制作淫秽物品牟利案(境外AI虚拟恋人应用 OchatAI_bot「造黄」案)——余姚市人民法院认定生成式人工智能服务提供者以提示词工程(DAN)突破基础模型内容安全限制、搭建角色卡与对话场景诱导付费、批量产出淫秽图片的,构成刑法意义上的「制作」淫秽物品,六人均以制作淫秽物品牟利罪判处有期徒刑三年十个月至三年一个月不等并处罚金;判决已生效(案号待补(以官方案卷为准);经余姚市公安局2025年7月立案侦查、2025年9月抓获6名被告人、2025年12月移送余姚市人民检察院审查起诉、2026年3月24日提起公诉、2026年6月16日一审宣判)

中国生成物可版权性虚假信息与声誉个人信息保护行政执法程序平台责任
法域
中国(cn)
法院
浙江省余姚市人民法院(刑事审判庭;承办法官 诸张琳,一级法官)
案号
案号待补(以官方案卷为准);经余姚市公安局2025年7月立案侦查、2025年9月抓获6名被告人、2025年12月移送余姚市人民检察院审查起诉、2026年3月24日提起公诉、2026年6月16日一审宣判
裁判日期
2026-06-16(一审宣判并生效;2026-09-08 经中国新闻网/宁波法院首次公开报道,2026-09-18 经余姚法院官微与《检察日报》披露完整案情,2026-09-20 见检察系统转发)
阶段
一审宣判并生效(当事人均未上诉)
状态
已判决
争议焦点
AI生成与刑事归责——AI「越狱」生成淫秽物品的「制作」行为定性、开发者 vs 用户的刑事责任归属、技术中立抗辩与算法备案义务
先例效力
中国基层法院刑事生效判决,对个案具终局效力,非指导性案例不具普遍约束力,但系国内首例系统回应「AI自动生成=开发者免责」抗辩的刑事判决,确立三项裁判规则:其一,提示词工程(DAN)不当改写系统提示词、主动突破大模型内置伦理与安全限制,实质是将通用模型「训练」为专门输出淫秽物品的犯罪工具,属于刑法意义上的「制作」淫秽物品;其二,用户虽自行选择角色卡、输入指令,但其操作被限定于被告人预先搭建的技术框架内,被告人对模型内容输出具有实质性控制力,行为与淫秽内容产生之间具刑法上的直接因果关系,故开发者系「制作者」而非中立工具提供者;其三,针对量刑事后评价,指出AI一键生成、批量产出的技术特性使数量呈指数级膨胀,不应机械套用传统数量标准,应区分「批量生成与按需生成」「公开传播与封闭交互」以实现罪责刑相适应

要点

(1)事实与规模:项目发起人郑某原为国内某大型游戏企业AI领域程序员,2024年7月接触境外AI色情聊天机器人后萌生开发同类应用牟利之念,纠集前同事谢某及网上结识的闫某等共6人组建研发团队,分工技术开发、功能迭代、线上运营与风险规避;2025年1月研发的生成式AI模型「OchatAI_bot」在境外平台上线,接入「第四方支付」、虚拟币、TGstar代币等多种充值渠道收费。技术路径为:先调用境外厂商文字大模型,再通过提示词工程「越狱」突破基础模型内置的色情内容安全限制,继而调用团队自租算力卡服务器部署的生图模型产出对应图片;上线初期仅能生成低俗文字与静态图片,后续迭代新增静态图转GIF动态图功能,并在境外社群举办「色情角色卡创作大赛」以积分奖励扩充内容库。经公安机关核查,运营期间应用户需求生成静态图片37万余张、动态图片6000余张,收取充值金额2.4万美元(折合人民币17万余元);经鉴定,随机抽取的12,500张静态图片及全量动态图片中,9,000余张静态图片、5,000余张动态图片被认定为淫秽物品,部分含性暴力、性虐待内容。(2)程序节点:2025年7月余姚市公安局发现线索立案侦查,2025年9月6名开发人员全部抓获归案;2025年12月公安机关移送余姚市人民检察院审查起诉;2026年3月24日检察院依法提起公诉;2026年6月16日余姚市人民法院一审宣判,判处郑某等六人有期徒刑三年十个月至三年一个月不等,各并处罚金;当事人均未上诉,判决已生效。(3)辩点与回应:郑某等提出「模型运营本意并非提供色情内容,而是提供情感陪伴,用户才是淫秽内容的实际制作者」「项目在境外运营并不违法,为避免危害境内才将模型放在境外」等辩解。法院回应:用户虽有选择角色、输入特定指令的操作,但均被限定在被告人预先搭建的技术框架内,被告人具有实质性控制能力并具直接因果关系;针对「无意危害境内」的辩解,检察官调取的内部聊天记录显示,运营期间郑某等人发现境内用户访问该模型时出现无法支付与后台订单统计重复的情况,不仅未阻断境内传播,反而针对性优化系统、帮助境内用户打通付费通道,足以认定其危害境内网络生态的主观故意。(4)规避手段:团队成员提供中国香港地区非实名电话卡替换境外平台绑定的境内实名手机号以抹除境内关联痕迹,并将核心技术研发、运营策略、风险研判等敏感工作全部转移至境外加密聊天平台沟通。(5)法官释法:承办法官诸张琳指出「技术中立」不是违法犯罪的挡箭牌,不能以内容由AI输出就否定开发者的「制作者」身份;开发者主动篡改模型安全机制、搭建便于产出淫秽内容的技术环境、对违法内容生成具备实质控制力的,即便由用户输入指令触发内容输出,仍属刑法意义上的制作者,应承担相应刑事责任。宁波市中级人民法院刑事审判第二庭庭长陈靖表示,本案传递明确信号——「技术中立不等于技术无罪,算法不是法外之地」。(6)同期制度背景:最高人民法院于2026年9月7日发布《关于依法审理涉人工智能纠纷案件的意见》,明确利用人工智能实施诈骗、侮辱、诽谤、损害商业信誉商品声誉、侵犯公民个人信息、非法获取计算机信息系统数据、制作贩卖传播淫秽物品等行为构成犯罪者依法追究刑事责任(该《意见》属规范性文件,不入本库;仅作本条目的制度背景说明)。

来源与核证

核证:2026-09-20 核证:①裁判时间链条(2026-03-24 提起公诉、2026-06-16 一审宣判、判决已生效)经《检察日报》全媒体记者报道与余姚法院官方发布两条独立路径逐字一致;②罪名、六名被告人、刑期幅度(三年十个月至三年一个月)、罚金、生成图片数量(静态37万余张/动态6000余张)、充值金额(2.4万美元折合人民币17万余元)、鉴定数量(12,500张抽检静态中9,000余张、全量动态中5,000余张认定淫秽物品)经中新网、余姚法院官方发布、《检察日报》三源一致;③裁判理由(「实质控制力」+直接因果关系+拒绝「技术中立」抗辩)经余姚法院官方发布载明的承办法官说法与《检察日报》报道的法官释法互证;④另经百度百科《关于依法审理涉人工智能纠纷案件的意见》词条「司法案例」段落侧面印证本案要点。**与库内既有条目区分(已逐条查重确认非同案)**:sj-012(虞某AI换脸制作传播淫秽物品牟利案)、sj-014(白某某AI「一键去衣」伪造淫秽图片案)、sj-069(浙江余姚法院AI「越狱」造黄牟利案·6人获刑)三件虽同属中国涉AI淫秽物品刑事案件,但本案系以「境外平台运营的生成式AI模型『越狱』(DAN提示词工程)批量生成、被告人系专业研发团队、以开发者与用户的刑事责任划分为核心争点」的独立案件,与 sj-069 记载的案型、时间与细节均不相同,非同一案件;本条目为窗口外补录(宣判于2026-06-16,2026-09-08起经官方渠道集中披露,2026-09-18/20 传播延展),入库理由为系国内首例以「实质控制力」标准回应「AI生成=开发者免责」抗辩的生效刑事判决,具规则确立意义。案号未公开披露,待以官方案卷终核。自中国法域独立检索取得(本任务第1步自主检索,未取自分法域候选文件)

本页由 重庆点策网络科技有限公司 整理、运营并持续更新 · 案例总目录 · 返回案例库首页