南都记者8月23日从杭州市萧山区检察院获悉，近日，由杭州市萧山区人民检察院提起的利用“AI换脸”技术侵犯公民个人信息民事公益诉讼案获判。该案中，虞某未经同意制作“AI换脸”淫秽视频，并在社交软件上销售“AI换脸”软件，传授使用教程牟利，检察机关在这起刑事案件中发现公益诉讼线索，提出检察公益诉讼。
杭州互联网法院支持了检察机关提出的全部诉讼请求，判令被告：立即停止侵权，删除其在社交软件群组中留存的所有涉案个人信息；在《法治日报》向社会公众刊发赔礼道歉声明，以消除影响、进行警示；支付侵害社会公共利益的损害赔偿款60000元。
杭州互联网法院发布消息称，被告虞某服从法院判决，现已履行道歉、赔偿义务等民事责任。赔偿金额将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。
案由
未经同意定制“AI换脸”视频、售卖软件
该案信息显示，2020年左右，虞某通过互联网学习并掌握了“AI换脸”软件的使用方法。2021年开始，虞某为牟取非法利益，在未取得被编辑人同意的情况下，利用“AI换脸”软件将从互联网等渠道收集到的他人人脸信息与部分淫秽视频中的人脸信息进行替换合成，制作生成虚假的换脸视频，在网络社交软件上进行传播。与此同时，虞某还为他人提供换脸视频定制服务，即根据客户提供的视频或照片制作换脸视频，并在网络社交软件上销售“AI换脸”软件、提供换脸素材并传授使用教程。
2023年4月，萧山区检察院在办理虞某制作、传播淫秽物品牟利罪的刑事案件中发现公益诉讼线索，开展调查取证。
经审查，检察机关认为，人脸信息作为敏感个人信息，对于保障公民人身财产安全具有重要意义，应当依法受到严格保护。虞某未经他人同意，非法处理他人人脸信息、提供换脸视频定制服务、销售换脸软件及教程的行为损害了社会公共利益。具体表现在，虞某自互联网公共空间非法获取众多人脸信息，利用深度合成技术非法处理后，在超过2000人的网络社交软件群组传播，同时提供换脸视频定制服务，使不特定群体成为潜在的被侵害对象，违反了法律法规和社会公德，侵害了承载在不特定多数社会主体个人信息之上的公共信息安全，破坏社会公共秩序，构成对公共信息安全领域的社会公共利益侵害。
此外，检察机关还表示，在他人可能将“AI换脸”软件用于侵犯个人信息等不正当目的的情况下，仍向他人销售“AI换脸”软件、提供换脸素材并传授使用教程，传播侵犯公民个人信息的方法和手段，使得更多不特定主体个人信息被侵害的社会危险性进一步扩大，故应当承担相应的民事责任。
6月9日，萧山区检察院经履行诉前公告程序，依法提起民事公益诉讼。
判决
滥用人脸深度合成技术损害公益，应承担民事赔偿责任
7月28日，杭州互联网法院公开开庭审理本案。被告虞某表示，对公益诉讼起诉人起诉状中所述事实和理由没有异议，对其行为深感后悔，愿意诚恳地向社会公众道歉，并会积极履行判决义务，以弥补对社会公益造成的损害。
经审理，杭州互联网法院认定虞某对于人脸深度合成技术的滥用行为，损害了社会公共利益，依法判决其承担停止侵害、赔偿损失、赔礼道歉的民事责任。判决生效后，虞某已履行道歉及赔偿义务，支付的赔偿款将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。
“技术中立并不等于技术的开发者、应用者不应受到来自法律的规制和道德伦理的约束。我们希望通过此案的办理，在保护敏感个人信息的同时，为‘AI换脸’这类的深度合成技术的使用设定应有的合法边界，培养公众在数字时代、人工智能时代的道德意识和社会责任感，让技术在合法的轨道中迭代发展。”承办该案的检察官萧山区检察院检委会专职委员章蕾表示。
检察官说法
积极探索算法监督检察公益诉讼
最高人民检察院第八检察厅副厅长邱景辉在接受南都采访时表示，近年来，人脸识别技术广泛应用，人工智能技术迅猛发展，但相关监管和防控相对滞后，人脸识别冒名验证类违法犯罪趁虚而入。
“犯罪分子利用承载人脸信息的图片、视频作为主要物料，运用专门软件实施‘AI换脸’，侵害他人基于人脸识别的相关合法权益，甚至结合他人的姓名、身份证号来突破人脸识别验证系统，实施网络诈骗，严重危害网络安全、数据安全、个人信息安全及其相关的人身安全、财产安全。”邱景辉称，特别是针对不特定多数人的“AI换脸”，对公共安全造成重大侵害或者侵害危险，是个人信息保护、反电信网络诈骗等网络治理领域检察公益诉讼的惩治和预防重点。
邱景辉认为，针对利用生成式人工智能技术生成淫秽色情、虚假有害信息等法律、行政法规禁止的内容，危害他人身心健康，侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益的犯罪行为，杭州检察机关协同公安机关、审判机关，在进行刑事追诉的基础上，通过民事公益诉讼以“诉”的确认体现司法价值引领，与8月15日起实施的《生成式人工智能服务管理暂行办法》同向发力，彰显了国家为了促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，进一步加大执法司法力度的信心和决心。
谈及本案对检察公益诉讼的启示，邱景辉称，结合反电信网络诈骗工作，对于利用生成式人工智能技术向公众提供生成图片、视频等内容的服务中出现的公益损害违法行为，检察机关可以协同公安机关和行政监管部门，对境内用户量大、问题隐患突出的即时通讯、网络直播、网络社交、电商平台、金融支付等重点APP加强治理，及时发现人脸识别验证系统存在的风险隐患。
此外，邱景辉还表示，检察机关还可以督促服务提供者按照《互联网信息服务深度合成管理规定》，对图片、视频等生成内容进行标识；对发现的违法内容及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改；对发现使用者利用生成式人工智能服务从事违法活动的，依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告，严格履行提供者的法律责任。
“对于《境内深度合成服务算法备案清单（2023年6月）》中列明的应用于人脸图像、视频生成场景，将用户上传的照片与特定形象进行面部融合，生成融合后的人脸图像、视频等主要用途的算法，检察机关可以会同相关职能部门强化对技术支持者的监督，积极探索算法监督检察公益诉讼，深化‘AI换脸’问题的系统治理、源头治理。”邱景辉称。
采写：南都记者 刘嫚 发自北京
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 举报，一经查实，本站将立刻删除。
