那个火遍全球后被封杀的“AI一键脱衣”软件,又卷土重来了

现代AI技术的发展突飞猛进,以前只能在电影中看到的画面,如今也开始逐渐出现实生活中。
现代AI技术的发展突飞猛进,以前只能在电影中看到的画面,如今也开始逐渐出现实生活中。

但在AI迅速发展的背后,也暗藏着许多严重的安全隐患。

如果有一天,你发现自己的脸出现在别人的身体上,Ta还做出了一些奇奇怪怪的举动,你会怎么想?

AI换脸,实际上已经是一个发展得比较成熟的技术了。

其中最出名的工具,还是要属DeepFake。

DeepFake自诞生起,就被大量用来制作假新闻和恶作剧,当然也包括虚假的换脸色情视频。

不过,使用DeepFake需要一定的技术门槛,所以并没有被大范围应用。

于是,许多开发者盯上了AI换脸技术的潜在市场,先后推出了面向大众的“简易版本”的AI工具。

各位还记得去年曾报道过的“AI一键脱衣”软件——DeepNude吗?

2019年6月,一名程序员开发的一款名为DeepNude的应用在海内外爆红。

用户只需要上传一张女性照片,DeepNude就能借助神经网络技术,自动“脱掉”女性身上的衣服,并填补出裸体。

有媒体测试了Taylor Swift等女星的照片,DeepNude都成功通过AI算法用裸露的器官和皮肤替换掉了人物身上的衣物。

DeepNude操作起来比Deepfakes简单太多,因此该软件在发布后几小时内,便因访问请求过大迅速宕机。

其实,这些伪造的图片细节上经不起推敲,远不如精心PS的效果。

但是从某种程度上来说,DeepNude却相当于DeepFakes技术的进化版。

因为它的操作更简单,处理速度更快,用户只需点击一下就能在30秒内获得一张“真实”色情图片。

如果它被有心人利用,可能引发更多的恶劣后果。

不出意外,DeepNude一经曝光后网上便开始流传大量女星裸体的虚假照片,该软件也迅速遭到全球舆论的抨击。

有专业人士称,“这项技术是非常可怕的,现在任何人都可能成为受害者,即使她并没有拍过裸照。这种技术不应该向公众开放。”

一方面,它侵犯了照片本人的隐私;另一方面,它还可能成为不法之徒敲诈勒索、人身攻击的工具。

而在国内的社交平台上,对于DeepNude的出现同样是一面倒的骂声。

当时,面对这些质疑,DeepNude的开发者Alberto却认为,技术无罪。

“我认为用DeepNude做的,用PS同样可以做到,”他说,“并且DeepNude不会自己散播图像,只有创建了这些图像的用户才会用来做坏事。”

Alberto还表示,“技术已经发展到这一步了,如果我不这样做,别人也会在一年内做出来。”

尽管如此,就在发布后的第二天,DeepNude还是在批评声中宣告下线了。

开发者Alberto在推特上承认人们滥用它的概率太高,并表示这款软件被如此广泛的传播也是他始料未及的,因此不会再发布其他版本,也没有其他人可以使用该技术。

至此,DeepNude事件还并没有结束。

因为DeepNude下架后,其源代码仍可在各种torrent网站和开放源代码存储库中找到。

近日,美国阿姆斯特丹的网络安全公司Sensity就调查发现,这款软件再次出现在了即时通讯软件Telegram中。

这次,它具有更简单的操作界面:任何人都可以通过Telegram向该机器人发送真人照片,并在几分钟之内收到一张生成的虚假裸照。

该服务也是完全免费的,不过用户在生成裸照后,需要支付1.28美元才可以获得无水印图片,开发者便以此获利。

Sensity推测,Telegram机器人可能使用的正是DeepNude的算法。

调查结果显示,截止目前,该软件在TeleGram平台已经公开发布了约104852名女性的色情图片。

 

而该机器人在宣传网站声称,截至10月22日,其已经制作了70万张色情图片。

这个数字,还不包括其成员私下分享传播的图片。

而这些受害者70%都是来自社交平台(TikTok、Instagram、Facebook等)上的普通女性,她们分布于阿根廷,意大利,俄罗斯和美国。

更重要的是,其中还包括未成年人。

据调查,这个机器人于2019年7月11日发布,目前已连接到七个Telegram频道。

它在全球拥有103585名用户,有70%在俄罗斯和东欧片区,阿根廷,意大利和美国也有数名用户。

在发现此事后,Sensity公司迅速公开了相关调查数据,执法部门也介入并展开了调查。

不过,Telegram一直未就此事给出公开答复。

如今,AI生成虚假内容越来越方便,DeepNude这类技术目前还处于法律的灰色地带,本文中的例子只是冰山一角。

技术是一把双刃剑,良性的应用才能让这个世界更加美好。

要想关上潘多拉的魔盒,需要制度的约束和人心向善的引导。

谁的身边都有女性亲人好友,而这项技术的错误应用则会导致她们受到潜在的伤害和威胁。

技术虽无罪,但技术的运用仍然需要遵守法律和道德的底线。

人已赞赏
资源分享

另一款阿里云网盘APP官网上线,最高可送终身会员!

2020-10-26 20:37:02

资源分享

强大的小说在线阅读神器,带有下载功能!

2020-10-27 16:24:46

2 条回复 A文章作者 M管理员
  1. 😍

  2. 软件怎么得

个人中心
今日签到
有新私信 私信列表
搜索