AI“换脸”游戏时,你知道“丢脸”的后果吗?(换脸ai或对普通人有潜在危害)

新华社厦门9月2日电题:账户被盗窃、名誉遭侵害、无端“被贷款”……AI“换脸”游戏时,你知道“丢脸”的后果吗?

新华社记者颜之宏

近日,一款基于人工智能技术的“换脸”APP走红网络。使用者只要上传自己的高清照片,即可将本人面孔与大量影视片段中的明星面孔置换。既可以自己过明星瘾,又可与心爱偶像“同框”出演,大量年轻用户选择将自己面孔上传网络,“换脸”娱乐。

新华社记者发现,如此“换脸”,用户面部生物特征信息被盗或失控的“丢脸”风险不小。该款APP用户协议中载明:用户一旦上传自己的照片进行视频“换脸”,将在全球范围内完全免费、不可撤销地将包括人脸照片在内的肖像资料授权给该公司和其关联公司。虽然此后相关企业在舆论压力下,对其用户协议进行了部分修改,但风险依然存在。

一旦“丢脸”,我们将面临哪些风险?漏洞又该如何堵上?新华社记者就此展开调查。

风险一:“丢脸”能导致“丢钱”

当前,大部分银行等金融机构开设了人脸识别登陆APP功能。“刷脸”支付甚至是远程签约等场景也越来越多见。如果用户的“脸”不安全,“钱”也将面临莫大风险。

企业通过用户协议等手段取得的用户面部识别信息面临被泄露风险。据记者了解,今年2月,国内某面部识别公司的数据库发生信息安全事故,数百万条个人信息被泄露;8月,欧洲一家公司发生大规模信息泄露事件,数百万人面部识别信息被泄露……公众面部信息被滥用风险增大。

记者在一些知名网购平台输入“人脸面具”“硅胶头套”等关键词,发现有不少商户出售“人脸头套式面具”,其中一些甚至可以按客户提供照片定制。记者获知,通过3D打印等技术,“人脸面具”可以获得较高仿真度,且面部识别数据越详实仿真度越高,对以面部识别信息作为密码账户的突破力就越强。此前已有人使用3D打印面具通过某知名网络支付平台面部验证。

“贸然将自己的清晰正面照上传并授权他人进行存储或另作他用,关乎‘钱袋子’安全。”中央财经大学金融法研究所所长黄震认为,目前法律对“AI换脸技术”规范不足,因此保护好自己的面部信息在当下十分必要。他建议,有关部门应加快推广相关技术规范落地应用。

记者从多家已启用人脸识别功能的金融机构处了解到:当前金融机构设置的人脸识别安全等级高于智能手机相关功能,但由于不少交易场景中识别标准并不统一,因此风险仍在。多名专家建议,用户将面部识别设置为财产账户密码时,应同时设置其他验证办法,减小风险。

风险二:“丢脸”能导致“丢清白”

当前,“换脸”技术被用在一些涉嫌违法犯罪领域的情况已不少见。记者发现一些网站用“AI换脸”“换脸视频”等方式提供用知名艺人“面孔”“嫁接”出的视频。这些视频往往涉嫌色情淫秽,且难辨真假。另外,记者在QQ群和百度贴吧中以“换脸”和“换脸视频”为关键词检索发现,有不少社交群组打着“技术交流”幌子兜售此类“明星换脸”视频。

知情人告诉记者,除贩卖“换脸”非法音视频产品牟利外,一些不法分子还利用手中掌握的贷款人人脸信息,以此类技术进行非法催收活动,直接侵害贷款人人格权、名誉权,甚至滋生出敲诈勒索等其他严重犯罪活动。

北京师范大学网络法治国际中心执行主任吴沈括认为,AI“换脸”法律风险点多,从现实案例看,名誉侵权是高发问题。尤其是恶意拼接制作侮辱性、污蔑性视图素材或者予以非法传播、利用的,将对受害人造成的伤害难以及时发觉且极难有效救济,需要有关部门高度关注、积极预防。他建议,由于该领域技术性强,相关企业众多,规模大小不一,应强化职能部门监管力度,杜绝选择性事后执法,建立全行业全流程公平监管,依法严惩违法违规主体,打造稳定、良性的可预期市场环境。

风险三:“丢脸”能导致“被贷款”

有过网贷申请经历的人对于“点点头”“摇摇头”“张张嘴”之类的动作也许并不陌生。借贷者在录入身份信息后,网贷机构会对申请人进行“活体检测”,以确保放款对象为本人,把关借贷安全。但记者发现,一些基于相关技术的修图APP能够“起死回生”,让静态面部照片模仿生物活体“动”起来。

记者使用一款知名修图软件,载入一张包含人物面孔的照片后使用其“3D塑颜”的功能,图片中的人物便能按记者需要完成“上下点头”和“左右摇头”等“动作”。

在另一款宣传语为“让你的照片活过来”的APP中,只要载入一张包含人物面孔的照片,就可以一键让照片中的人物“开口说话”。记者发现,使用者还能利用该APP决定说话内容,并可对录入声音进行声线处理,调整音色音调,视听感觉十分逼真。

有业内人士告诉记者,目前不少网贷机构进行“活体检测”时仍使用人工审核或技术含量偏低的机器审核,一旦公众的面部识别信息被不法分子掌握,用这些黑科技“活”过来的面孔,很可能以假乱真,让不知情者“被网贷”背上巨额债务。此前“3⋅15”晚会上就有人演示用“活”照片成功突破某款手机的“刷脸”登陆系统。记者还发现,在苹果和安卓手机商店中有不少利用AI“换脸”类APP供人挑选。

中国信息安全研究院副院长左晓栋认为,随着AI“换脸”使用场景更丰富,行业和监管部门应当研发相应的“反换脸”检测技术,来筛选相关视频是否由“换脸术”完成。他建议,要加快建立人工智能算法的安全评估制度,对不同场景下AI“换脸”技术进行评估,解决相关技术滥用问题。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

(0)
上一篇 2023年5月14日 上午8:41
下一篇 2023年5月14日 上午8:51

相关推荐

  • 仓库管理系统项目章程

    仓库管理系统项目章程 一、项目概述 本次仓库管理系统项目旨在开发一套高效、智能、规范的仓库管理系统,提高仓库管理效率和质量,确保货物的安全、准确、及时运输和储存。该系统将包含仓库库…

    科研百科 2025年6月18日
    0
  • 晋能控股集团各单位贯彻落实安全生产十五条措施(晋能控股安全生产30条规定)

    晋能控股集团各单位认真贯彻落实国务院安委会制定部署的安全生产十五条措施,压实安全生产责任,扎实做好安全生产工作,确保安全生产十五条措施落地见效,为企业全方位高质量发展创造良好安全环…

    2022年6月11日
    1.6K
  • 6年级,科技小制作

    科技小制作:制作自己的机器人 大家好,我是6年级的学生小明。最近,我发明了一种科技小制作,可以让我也拥有自己的机器人。 步骤如下: 1. 下载一个3D建模软件,例如Blender。…

    科研百科 2024年11月12日
    1
  • 航母模型科研项目

    航母模型科研项目 航母是海军力量的重要象征,是海上作战的重要平台。现代航母通常拥有大量的电子设备和武器系统,能够携带大量的战斗机和支援舰船,对海上战争具有极大的影响。 然而,航母模…

    科研百科 2025年2月22日
    1
  • 软件行业人天单价计算方法

    软件行业人天单价计算方法软件行业人天单价计算方法软件设计软件设计是在以互联网为基础的产物,为人们带来各种各样的信息,这在一定程度上可以反映人们对于互联网的认识和对于信息的辨识能力。…

    科研百科 2024年11月30日
    12
  • 盘点2023年中国企服:收缩战线,架构调整,追求利润

    图片来源@视觉中国 文 | 第一新声,编辑 | 也行、南竹心 2023年,中国企业服务行业遭遇了巨大的冲击,在市场承压下,企业服务行业的发展呈现极端的两级分化现象,大浪淘沙式的变革…

    科研百科 2024年5月10日
    144
  • 打造河南数字经济“新标杆” 郑州鲲鹏软件小镇今年上半年全面建成

    编者按:春节假期刚过,河南一派繁忙的生产景象。各地企业铆足干劲,开足马力,迅速掀起生产热潮,奋力夺取兔年“开门红”。为此,大河网推出“河南全力拼经济”策划,看企业如何发力,交出“开…

    科研百科 2023年3月31日
    272
  • 电子商务合同管理

    随着电子商务的快速发展,电子商务合同管理成为了一个重要的问题。电子商务合同管理涉及到合同的签订、履行、审查、监督等多个方面,对于企业而言,做好电子商务合同管理可以有效地降低风险,提…

    科研百科 2024年8月31日
    32
  • win11 acm

    Win11 ACM: 让计算机与人工智能更紧密地结合在一起 随着计算机技术的不断发展,人工智能也逐渐成为主流。而随着计算机技术的不断发展,Win11也应运而生。Win11是微软公司…

    科研百科 2024年11月13日
    0
  • 甘肃省基层党支部建设标准化应知应会知识点(甘肃省党支部标准化建设内容)

    1.农村党支部建设标准化主要包括哪几项? 答:包括7项,分别为政治建设标准、组织建设标准、组织生活标准、村党支部队伍建设标准、党员队伍建设标准、基础保障标准、考核评价标准。 2.党…

    科研百科 2023年6月12日
    365