当前位置:首页>新闻 > >正文

“AI换脸”被随意使用,你也可能成为下个受害者……

  • 2023-08-24 02:22:05来源:正义网

“AI换脸”,相信大家都不陌生,只需要一张照片,通过深度合成技术,任何人都能成为热播影视作品中的主角,甚至表情、神态都足以以假乱真。然而,近年来,伴随着技术门槛的降低和应用场景的增多,“换脸技术”的应用早已突破原来的娱乐范围,甚至成为不法分子牟利的手段。


(资料图片)

今年6月,浙江省杭州市萧山区检察院对一起利用“AI换脸”技术侵犯公民个人信息案依法提起民事公益诉讼(本报6月21日一版曾作报道)。8月4日,杭州互联网法院经过审理后依法对该案作出判决,支持检察机关作为公益诉讼起诉人的全部诉讼请求:判令被告虞某立即停止侵权,删除其在社交软件群组中留存的所有涉案个人信息;在国家级媒体上刊发向社会公众赔礼道歉的声明,以消除影响、进行警示并支付侵害社会公共利益的损害赔偿款6万元。8月22日,这一判决正式生效。

“换脸,不能随心就换!我们希望通过该案的办理提醒社会公众,在使用新兴技术时,不能忘记法律的规制和道德伦理的约束,这是所有技术发展应有的边界。”承办该案的杭州市萧山区检察院检委会专职委员章蕾告诉记者。

仅凭几张照片

任何人都可能成为受害者

“真是后悔莫及啊!”对于现年36岁的虞某来说,当初对“换脸”的好奇换来的除了刑罚,还要承担相应的民事责任。

“想换谁的脸就换谁的脸,好玩、刺激!”2020年过年前后,虞某第一次从互联网上接触到“AI换脸”技术时,十分好奇,莫名的兴奋。随后,虞某便从网上下载了换脸软件并熟练掌握了相关视频合成的技术。在使用这项技术时,虞某发现了其中的“商机”:利用“AI换脸”软件,制作生成虚假的换脸淫秽视频,在网络社交软件上进行传播,能够吸引较多关注。从2021年6月开始,虞某以牟利为目的,在未取得被编辑人同意的情况下,利用上述“AI换脸”软件,将从互联网等渠道收集到的他人人脸信息与部分淫秽视频中的人脸信息进行替换合成,制作生成虚假的换脸视频,在网络社交软件上进行传播。与此同时,虞某还在社交软件上创建了多个群组为他人提供换脸视频定制服务,根据客户提供的视频或照片,制作换脸视频。此外,虞某在网络社交软件上销售“AI换脸”软件、提供换脸素材并传授使用教程。

“让一切遮挡消失!手机就可操作,明星网红素人都可,30秒内出结果!购买软件私信联系!”“只要是能看到脸的都能换!”“请问有提供定制换脸视频吗?想把我暗恋的女生换上。如何收费?”“没问题,费用……通过口令红包发我!”……一段时间,在虞某的社交软件群组内热闹非凡,生意红火。口令红包收了200余次,总金额共计6万余元。2022年8月,公安机关发现了虞某在网上制作、传播淫秽物品牟利的犯罪行为,依法对其立案侦查。2022年11月,虞某被移送萧山区检察院审查起诉。今年3月28日,该院依法对虞某以涉嫌制作、传播淫秽物品牟利罪提起公诉。

“引起我们注意的是,虞某在传播淫秽物品牟利的同时,还会为他人提供换脸视频‘定制’服务,并传授换脸软件的使用方法。”在参与虞某刑事案件的讨论时,兼任该院公益诉讼检察部门负责人的章蕾了解到,虞某会根据客户提供的视频或照片,制作、生成特定的换脸视频。除此之外,虞某还会在网络社交软件上直接销售“AI换脸”软件,传授客户使用软件的方法并且提供相应的素材。而客户要求“定制”换脸的对象不仅包括一些我们熟知的公众人物,也有生活中的普通人。

“仅凭几张照片,任何人都可能成为受害者。”章蕾说,近年来,滥用“AI换脸”技术实施各类侵犯个人信息的行为并不鲜见,仅凭一张换脸照片或者一段换脸视频,或编造新闻、炒作热点,或侮辱诽谤、实施勒索诈骗,“该类行为在网络传播的叠加下,危害结果会产生裂变,对被侵权人造成的伤害往往是长久的、持续的、难以弥补的。”

要捍卫隐藏在私益背后的公益

今年6月,浙江省杭州市萧山区检察院对一起利用“AI换脸”技术侵犯公民个人信息案依法提起民事公益诉讼。图为庭审现场。

擅自使用他人人脸信息,制作换脸视频,侵犯的到底是被害人的私益,还是公共利益?“要看到隐藏在每一个被害人的个人权益的背后,是网络正常的公共秩序,是承载在不特定多数社会主体个人之上的公共利益。”讨论这一案件时,章蕾说。

从女子地铁照被“一键脱衣”到该案中普通人的形象被嫁接到淫秽视频中,“AI换脸”技术的滥用,看似是对被侵害的个人的人格权、肖像权、名誉权、隐私权的侵害,实际上更是对社会公序良俗的践踏,是对稳定的社会环境和清朗的网络空间的挑战。

该案中,虞某作为“AI换脸”技术的使用者,不仅在互联网公共空间非法获取众多人脸信息,利用深度合成技术非法处理后,制作淫秽视频在超过2000人的网络社交软件群组中进行传播,违反了法律法规和社会公德,侵害了公共信息安全,破坏社会公共秩序,还在明知他人可能将“AI换脸”软件用于侵犯个人信息等不正当目的的情况下,向他人销售“AI换脸”软件、提供换脸素材并传授使用教程,传播侵犯公民个人信息的方法和手段,使得更多不特定主体个人信息被侵害的社会危险性进一步扩大。“因此在依法追究其刑事责任外,我们认为有必要提起民事公益诉讼对该类侵犯公民个人信息的行为予以规制。”

经过讨论,大家一致认为有必要提起公益诉讼。随后,该院又向杭州市检察院作了汇报并获得了支持。

“其实,个人信息被泄露的危害,我们或多或少都有体会。不堪其扰的推销电话、未经同意的数据收集、精准实施的网络诈骗等等,个人信息一旦被过度收集、泄露和非法利用,造成的危害难以估量。而人脸信息作为其中具有高度识别性和强关联性的敏感个人信息,更应当是法律重点保护的对象。”杭州市检察院第八检察部主任毕克来听取汇报后表示。

今年4月14日,萧山区检察院决定对虞某“AI换脸”侵犯个人信息公益诉讼案立案,当日履行公告程序,公告期满,无适格主体提起诉讼。6月9日,该院依法对虞某提起民事公益诉讼。6月12日,杭州互联网法院正式立案。

技术本无善恶

但技术的使用需要规制

7月28日,该案在杭州互联网法院一审公开审理。

庭审中,萧山区检察院作为公益诉讼起诉人派章蕾出庭。检察机关结合案件事实、危害后果、法律责任等对被告虞某进行法庭教育,虞某通过其诉讼代理人表示真诚悔过,并表达了履行赔偿的意向。

庭审过程中,章蕾在法庭上发表的一段话令人印象深刻:“技术本身是中立无害的,只是技术中立并不意味着价值中立,特别是开发、应用者的价值中立,更不等于‘深度合成’的参与者不应当受到来自法律的规制、道德伦理的约束。”

经过审理,法院认定,虞某对于人脸深度合成技术的滥用行为损害了社会公共利益,依法判决其承担停止侵害、赔偿损失、赔礼道歉的民事责任。被告虞某服从法院判决,现判决已生效。虞某已履行道歉及赔偿义务。赔偿金额将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。

“技术的运用是把双刃剑,用之为善可以造福社会,不当滥用则会造成社会风险和损害。对于换脸软件等深度合成技术应用的规制应当从其参与者入手,包括发明者、应用者、传播者等方面,以规制深度合成技术使用目的为路径,实现深度合成技术的合理使用,避免该技术对个人、社会、国家造成诸多方面的风险。同时,也需要引导技术开发、应用者自觉遵守法律规定和科技伦理道德,培育积极健康、向上向善的研发、应用环境,保护和鼓励新兴智能技术的有益探索。”承办此案的法官肖芄在该案宣判后说。

记者注意到,今年1月,国家互联网信息办公室、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》正式实施,为深度合成服务划定了“底线”和“红线”,强调不得利用深度合成服务从事法律、行政法规禁止的活动,要求深度合成服务提供者要落实信息安全主体责任。

8月15日,国家网信办联合多部门公布的《生成式人工智能服务管理暂行办法》正式施行,对生成式人工智能产业作出了较为详尽的规定。“但在法律规定不断完善的同时,技术的迭代也在不断加速,如何克服法律对技术规制的天然滞后性,如何应对技术发展过程中的新现象、新问题,是监管部门和司法机关共同需要面对的新难题。”审判长、杭州互联网法院常务副院长朱敏明表示。

“在办理该案的过程中,我们也深刻地体会到,技术的迭代背后,‘侵权易’‘维权难’的矛盾更为突出。”章蕾说,以往在司法实践中,关于公民个人提起的保护个人信息之诉少之又少,其中维权成本高、专业性强、举证困难是主要原因。以本案为例,如何证明人脸信息侵权事实的存在,可能需要对信息处理者、处理方式、信息获取、信息处理加工是否违法等进行举证,而上述证据普通的公众很难仅凭自身力量完成初步举证,即便是司法机关,在调查取证的过程中也耗费了大量的时间和精力。而公民个人遇到该情况往往会基于无奈,放弃以诉讼方式维权,这将会间接导致对侵权行为肆意侵害公共利益的放任,使技术违法行为始终游走在法律底线之外。

据悉,今年6月,在最高检第八检察厅的直接指导和推动下,杭州互联网法院与杭州市余杭区检察院会签《关于推进互联网检察公益诉讼案件办理的协作办法(试行)》,旨在通过探索互联网检察公益诉讼新型办案模式,携手蹚出一条网络空间司法协同治理的新路。

(来源:检察日报·法治新闻版 作者:范跃红 陈佩佩)

标签:

延伸阅读

推荐阅读

“AI换脸”被随意使用,你也可能成为下个受害者……

“AI换脸”,相信大家都不陌生,只需要一张照片,通过深度合成技术,任

中评关注:学者研讨智库建设与创新发展

8月17日下午,全球化智库(CCG)和人民出版社联合在北京CCG总部举办新

洛克王国踏云猴进化丹药(洛克王国踏云猴)

我是小前,我来为大家解答以上问题。洛克王国踏云猴进化丹药,洛克王国

《博德之门3》找到蘑菇猎人任务攻略

博德之门3中有着诸多的支线任务以及伙伴任务需要触发与完成。本次为大

嘉亨家化8月23日盘中涨幅达5%

以下是嘉亨家化在北京时间8月23日13:37分盘口异动快照:8月23日,嘉亨

国家黄河中心召开青海省生态保护治理专家座谈会

光明网讯(记者张佳兴蔡琳)为有效支撑地方生态环境管理和解决突出生态

实拍新疆阿克苏托木尔大峡谷盐水瀑布

在新疆温宿县天山托木尔大峡谷盐丘国家地质公园,红色山体上覆盖着雪白

标普继穆迪之后下调美国一些银行的评级

【标普继穆迪之后下调美国一些银行的评级】在穆迪下调美国多家银行评级

阳光电源:董事长提议回购不低于5亿元且不超过10亿元公司股份

阳光电源(SZ300274,收盘价:94 43元)8月23日晚间发布公告称,阳光电

收获忙

8月20日,湖南省常宁市板桥镇西洞村农民驾驶农机在收获水稻(无人机照

新能源发展要抓关键

新能源发展要抓关键---随着新能源开发建设进一步提速,新疆更加需要抓

李彦宏:百度智能云本季度持续盈利,营收达到45亿元

李彦宏:百度智能云本季度持续盈利,营收达到45亿元,李彦宏,百度,金蝶,

同是浙江卫视主持人,华少、朱丹、沈涛差距一目了然

最近,随着李玟录音的曝出,《中国好声音》处于风口浪尖,蓝台也陷入了

美拼凑“小圈子”煽动分裂对抗

美拼凑“小圈子”煽动分裂对抗

凡拓数创上半年亏损 去年上市募6.46亿扣非净利降8成

凡拓数创上半年亏损去年上市募6 46亿扣非净利降8成

hr认可的国外大学排名 国外大学排名

你们好,最近0471房产发现有诸多的对于hr认可的国外大学排名,国外大学

5年期LPR维持不变,房贷利率还有多大下调空间?

8月21日,央行宣布最新一期的贷款市场报价利率(LPR),1年期LPR从3 55

紫光国微:上半年净利润同比增长16.22%

【紫光国微:上半年净利润同比增长16 22%】8月23日电,紫光国微披露半

俄称打击乌军人员装备 乌称打击俄军目标

俄罗斯国防部22日发布战报称,俄军在库皮扬斯克、红利曼、顿涅茨克、扎

安阳投资集团完成发行5亿元中票,利率4.78%

募集资金拟全部用于偿还公司有息债务

2023年08月21日[数字经济]涨停板金字塔

观龙头,知大势,定决策!3板(1):启迪环境。1板(8):久其软件、新炬网

男子野泳被浪拍到了另一个市 官方提醒:活动需在安全水域

正值夏季,很多喜欢游泳的人,如果没有找到合适的场地,就会去野外游野

华中数控(300161):8月21日北向资金增持7.87万股

8月21日北向资金增持7 87万股华中数控。近5个交易日中,获北向资金减持

日本股市行情:因收益率上升,日本银行股录得7月以来最大涨幅

【因收益率上升,日本银行股录得7月以来最大涨幅】亚盘时段,日本10年

休宁县:“赛马”机制激发人才创新创造活力

为进一步激发政聘企用人才智能,休宁县出台《休宁县驻企服务硕士研究生

中山市茂名商会与信宜市钱排镇“结对”

记者昨日了解到,8月20日,中山市茂名商会与信宜市钱排镇投缘结对,共

全民拼购模式:简单易懂、参与即赚的购物体验

近年来,随着互联网的快速发展,电商行业也在不断壮大。在众多电商

安徽省芜湖市2023-08-23 05:28发布大雾黄色预警

一、安徽省芜湖市天气预报芜湖县气象台2023年08月23日05时20分发布大雾

国风主题短片、二次元漫画……上海消防文创有哪些新花样?

8月22日,由上海消防救援总队举办的“淬火蓝焰·夏季风”2023年上海消

利和兴:2023年半年度净利润约-858万元

利和兴(SZ301013,收盘价:13 31元)8月21日晚间发布半年度业绩报告称

猜您喜欢

Copyright ©  2015-2022 热讯服装网版权所有  备案号:豫ICP备20005723号-6   联系邮箱:29 59 11 57 8@qq.com