热点聚焦
“AI换脸”被滥用 科技莫成“黑产”帮凶
新京报 | 来源:新京报 浏览次数:2567
摘要:

AI“换脸”技术被应用于色情视频,本身就是对科技的侮辱,借此形成“黑色产业链”,造成的社会危害更是不可低估。

  AI“换脸”技术被应用于色情视频,本身就是对科技的侮辱,借此形成“黑色产业链”,造成的社会危害更是不可低估。

  科技的发展推动了社会进步,同时也带来很多风险和隐患。从前,很多人只知道运用软件Photoshop(PS)能够修改图片,如今,AI(人工智能)直接将“修图”技术进化成“换脸”。近日,新京报记者在调查时发现,互联网上大量出现通过“AI换脸”实现的由知名女艺人“主演”的淫秽视频,在百度贴吧、闲鱼等主要网络平台均有出售。

  如果有人觉得,明星艺人被美化也好、丑化也罢,都不关自己的事,那就大错而特错了。因为,在现实中,“AI换脸”已经不仅仅是一门技术,一条依附于“AI换脸”的“黑色产业链”已经形成。据新京报记者的调查报道称,有的商家不仅提供成品的视频,还接受买家的订制,只要买家提供20张照片,就可以搞出任何人的“小电影”。还有的商家“授人以渔”,售卖教学视频供人学习,出示学生证还能打七折。

  互联网不是法外之地。“AI换脸”技术被应用于淫秽视频,本身就是对科技的侮辱,借此形成“黑色产业链”,造成的社会危害更是不可低估。

  首先,“AI换脸”为淫秽视频的传播提供了新的兴奋点,让那些本来未必会接触淫秽视频的未成年人群体,因为“追星”情结而增加了“看一看”的兴趣,最终误入其中,难以自拔。

  其次,在“AI换脸”技术下,每个人都可能成为受害者。尤其是普通人,一旦被“AI换脸”成为“小电影”的主角,由于身边人的鉴别能力较弱,大多数人在转发信息时更注重内容的轰动性和刺激性,而非可靠性,就算是一个做工粗糙的视频,也可能会在“以讹传讹”中给无辜的当事人带来极大的精神伤害。

  第三,“AI换脸”的应用场景不仅是色情视频,还可能被用于电信诈骗。如果有人通过“换脸”向“被换脸者”的亲友索要钱财,就算诈骗不成功,也可以造成损害当事人名誉的影响。

  第四,“AI换脸”技术具有一定的趣味性和挑战性,会吸引更多人尝试其训练模型的乐趣,从接受者变成参与者。特别是青少年对新事物的接受能力强,计算机技术水平往往较高,其中一些法制观念或道德意识较弱的人在“小试身手”后很容易踩过界,变成“黑色产业链”的一环。

  尽管“AI换脸”技术的主要危害在于使用者的滥用,但因“AI换脸”自带“混淆人格”的功能属性,因此,相关部门对“AI换脸”行为的法律限制和行为规范也应更具针对性。首先,公安部门、网络监管者、网络贴吧和电子商务平台的经营者,都有义务清除违法售卖的包含“AI换脸”技术的违法色情视频。对于面向公众销售的或代为制作换脸视频的营利性行为,应坚决予以禁止。

  其次,让“AI换脸”技术的爱好者意识到,不管是否使用“AI换脸”技术,在中国境内,凡是传播具有性行为、性器官、裸体的图像或视频都是具有法律风险的,“换脸”技术并不能消除原始素材的违法性,将之作为“技术成果”与大家分享是有风险的。

  第三,制作者应防范自己的“换脸”视频被人利用,用于各类欺诈和侵权活动。不要因为觉得“好玩”,就随便帮人制作“爸爸妈妈我要钱啊”之类的视频。

  第四,未经当事人授权的“换脸”行为,是对公民人格权和肖像权的侵犯。掌握“AI换脸”技术的人,应该对他人多怀尊重之意,不可轻易“戏之”,更不可没有底线地将“换脸”技术用于非法牟利,否则难免会遭到法律的严惩。

特别声明:
转载上述内容请注明出处并加链接。上述内容仅代表作者或发布者的观点,与中国电子商会官网的立场无关。如有任何疑问或了解更多,请与我们联系。电话:4008 900 668 邮箱:service@cecc.org.cn

中国电子商会 China Electronics Chamber of Commerce
京ICP备13044805号
电话:010-68256762  E-mail:service@cecc.org.cn
Copyright CECC.org.cn All rights reserved
地址:北京市亦庄经济技术开发区博兴六路17号院1号楼3层

京公网安备 11011502005504号