制作“AI换脸”淫秽视频售卖软件牟利,公益诉讼促源头治理(最近很火的换脸视频制作)

南都记者8月23日从杭州市萧山区检察院获悉,近日,由杭州市萧山区人民检察院提起的利用“AI换脸”技术侵犯公民个人信息民事公益诉讼案获判。该案中,虞某未经同意制作“AI换脸”淫秽视频,并在社交软件上销售“AI换脸”软件,传授使用教程牟利,检察机关在这起刑事案件中发现公益诉讼线索,提出检察公益诉讼。

杭州互联网法院支持了检察机关提出的全部诉讼请求,判令被告:立即停止侵权,删除其在社交软件群组中留存的所有涉案个人信息;在《法治日报》向社会公众刊发赔礼道歉声明,以消除影响、进行警示;支付侵害社会公共利益的损害赔偿款60000元。

杭州互联网法院发布消息称,被告虞某服从法院判决,现已履行道歉、赔偿义务等民事责任。赔偿金额将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。

案由

未经同意定制“AI换脸”视频、售卖软件

该案信息显示,2020年左右,虞某通过互联网学习并掌握了“AI换脸”软件的使用方法。2021年开始,虞某为牟取非法利益,在未取得被编辑人同意的情况下,利用“AI换脸”软件将从互联网等渠道收集到的他人人脸信息与部分淫秽视频中的人脸信息进行替换合成,制作生成虚假的换脸视频,在网络社交软件上进行传播。与此同时,虞某还为他人提供换脸视频定制服务,即根据客户提供的视频或照片制作换脸视频,并在网络社交软件上销售“AI换脸”软件、提供换脸素材并传授使用教程。

2023年4月,萧山区检察院在办理虞某制作、传播淫秽物品牟利罪的刑事案件中发现公益诉讼线索,开展调查取证。

经审查,检察机关认为,人脸信息作为敏感个人信息,对于保障公民人身财产安全具有重要意义,应当依法受到严格保护。虞某未经他人同意,非法处理他人人脸信息、提供换脸视频定制服务、销售换脸软件及教程的行为损害了社会公共利益。具体表现在,虞某自互联网公共空间非法获取众多人脸信息,利用深度合成技术非法处理后,在超过2000人的网络社交软件群组传播,同时提供换脸视频定制服务,使不特定群体成为潜在的被侵害对象,违反了法律法规和社会公德,侵害了承载在不特定多数社会主体个人信息之上的公共信息安全,破坏社会公共秩序,构成对公共信息安全领域的社会公共利益侵害。

此外,检察机关还表示,在他人可能将“AI换脸”软件用于侵犯个人信息等不正当目的的情况下,仍向他人销售“AI换脸”软件、提供换脸素材并传授使用教程,传播侵犯公民个人信息的方法和手段,使得更多不特定主体个人信息被侵害的社会危险性进一步扩大,故应当承担相应的民事责任。

6月9日,萧山区检察院经履行诉前公告程序,依法提起民事公益诉讼。

判决

滥用人脸深度合成技术损害公益,应承担民事赔偿责任

7月28日,杭州互联网法院公开开庭审理本案。被告虞某表示,对公益诉讼起诉人起诉状中所述事实和理由没有异议,对其行为深感后悔,愿意诚恳地向社会公众道歉,并会积极履行判决义务,以弥补对社会公益造成的损害。

经审理,杭州互联网法院认定虞某对于人脸深度合成技术的滥用行为,损害了社会公共利益,依法判决其承担停止侵害、赔偿损失、赔礼道歉的民事责任。判决生效后,虞某已履行道歉及赔偿义务,支付的赔偿款将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。

“技术中立并不等于技术的开发者、应用者不应受到来自法律的规制和道德伦理的约束。我们希望通过此案的办理,在保护敏感个人信息的同时,为‘AI换脸’这类的深度合成技术的使用设定应有的合法边界,培养公众在数字时代、人工智能时代的道德意识和社会责任感,让技术在合法的轨道中迭代发展。”承办该案的检察官萧山区检察院检委会专职委员章蕾表示。

检察官说法

积极探索算法监督检察公益诉讼

最高人民检察院第八检察厅副厅长邱景辉在接受南都采访时表示,近年来,人脸识别技术广泛应用,人工智能技术迅猛发展,但相关监管和防控相对滞后,人脸识别冒名验证类违法犯罪趁虚而入。

“犯罪分子利用承载人脸信息的图片、视频作为主要物料,运用专门软件实施‘AI换脸’,侵害他人基于人脸识别的相关合法权益,甚至结合他人的姓名、身份证号来突破人脸识别验证系统,实施网络诈骗,严重危害网络安全、数据安全、个人信息安全及其相关的人身安全、财产安全。”邱景辉称,特别是针对不特定多数人的“AI换脸”,对公共安全造成重大侵害或者侵害危险,是个人信息保护、反电信网络诈骗等网络治理领域检察公益诉讼的惩治和预防重点。

邱景辉认为,针对利用生成式人工智能技术生成淫秽色情、虚假有害信息等法律、行政法规禁止的内容,危害他人身心健康,侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益的犯罪行为,杭州检察机关协同公安机关、审判机关,在进行刑事追诉的基础上,通过民事公益诉讼以“诉”的确认体现司法价值引领,与8月15日起实施的《生成式人工智能服务管理暂行办法》同向发力,彰显了国家为了促进生成式人工智能健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,进一步加大执法司法力度的信心和决心。

谈及本案对检察公益诉讼的启示,邱景辉称,结合反电信网络诈骗工作,对于利用生成式人工智能技术向公众提供生成图片、视频等内容的服务中出现的公益损害违法行为,检察机关可以协同公安机关和行政监管部门,对境内用户量大、问题隐患突出的即时通讯、网络直播、网络社交、电商平台、金融支付等重点APP加强治理,及时发现人脸识别验证系统存在的风险隐患。

此外,邱景辉还表示,检察机关还可以督促服务提供者按照《互联网信息服务深度合成管理规定》,对图片、视频等生成内容进行标识;对发现的违法内容及时采取停止生成、停止传输、消除等处置措施,采取模型优化训练等措施进行整改;对发现使用者利用生成式人工智能服务从事违法活动的,依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施,保存有关记录,并向有关主管部门报告,严格履行提供者的法律责任。

“对于《境内深度合成服务算法备案清单(2023年6月)》中列明的应用于人脸图像、视频生成场景,将用户上传的照片与特定形象进行面部融合,生成融合后的人脸图像、视频等主要用途的算法,检察机关可以会同相关职能部门强化对技术支持者的监督,积极探索算法监督检察公益诉讼,深化‘AI换脸’问题的系统治理、源头治理。”邱景辉称。

采写:南都记者 刘嫚 发自北京

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

(0)
上一篇 2024年5月2日 下午2:37
下一篇 2024年5月2日 下午2:49

相关推荐

  • 哈弗线上科研项目怎么样

    哈弗线上科研项目怎么样 随着科技的不断发展,线上科研项目已经成为了许多科学家和工程师们进行研究和开发的重要领域。在哈弗公司,线上科研项目也得到了广泛的应用和认可。那么,哈弗线上科研…

    科研百科 2025年4月25日
    1
  • 这才是真正的企业管理流程体系,包括45个部门工作的流程,很实用

    适合中小企业的部门管理体系所有流程汇编 篇幅有限,完整版收录在下面的圈子里。 你可以通过以下方式获取: 1、加入下面的圈子获取(包括后期更新的内容均可获取): (此处已添加圈子卡片…

    科研百科 2022年10月30日
    184
  • 项目管理:使用项目管理工具制定计划要注意什么(项目管理-使用项目管理工具制定计划要注意什么问题)

    项目中,制定计划前,先理清大概思路及任务中的重点细节,再开始进行规划,计划制定要与相关人员进行明确、审查,防止过于乐观或评估偏差。 一、制定计划的内容有哪些 计划是项目实施的第一步…

    科研百科 2022年11月10日
    169
  • 协同办公oa操作手册(oa协同办公 会议管理)

    oa协同办公:会议管理的重要性 随着现代企业竞争的加剧,企业需要更加高效地管理和协调各种资源。其中,会议管理是一个重要的方面,它可以帮助企业更好地组织和管理会议,提高会议的效率和质…

    科研百科 2024年6月3日
    91
  • 科研项目验收意义

    科研项目验收意义 科研项目验收是一个非常重要的环节,标志着一个科研项目已经达到了预期的质量标准,并可以正式对外发布。在科研项目验收中,科学家们会进行严格的检查和评估,以确保项目的质…

    科研百科 2025年3月8日
    1
  • 软件项目管理app

    软件项目管理app: 提高软件开发效率的神器 随着软件开发领域的不断发展,项目管理已经成为了软件开发过程中不可或缺的一部分。传统的手动管理方式已经不能满足现代软件开发的需求,因此,…

    科研百科 2024年9月1日
    44
  • 中小学公用经费管理办法

    中小学公用经费管理办法 为规范中小学公用经费管理,保障学校教育教学活动的顺利开展,根据《中华人民共和国教育法》和其他相关法律、法规的规定,制定本管理办法。 第一章 总则 第一条 本…

    科研百科 2024年8月13日
    34
  • 项目管理表格类型

    项目管理表格类型 在项目管理中,表格是一种非常重要且广泛使用的工具。通过表格,我们可以方便地跟踪和管理项目进度、成本、资源和风险等信息。本文将介绍项目管理表格类型,并讨论如何使用这…

    科研百科 2024年8月19日
    46
  • 系统集成项目管理工程师中级新版

    系统集成项目管理工程师中级新版:掌握核心技能,提升职业发展 随着信息技术的不断发展,系统集成项目管理工程师(简称系统集成项目管理师)这个职位越来越受到人们的关注。作为一个专业的技术…

    科研百科 2025年7月18日
    1
  • 部门项目管理软件

    部门项目管理软件:高效团队协作的利器 随着企业竞争的加剧,团队协作的重要性越来越受到重视。部门项目管理软件是提高团队协作效率、优化项目管理流程的的有效工具。本文将介绍部门项目管理软…

    科研百科 2024年5月30日
    115