据CBC News报道,全球最大的AI换脸色情网站MrDeepFakes.com宣布永久关停。
这个利用深度伪造(Deepfakes,deep machine learning+fake photo)技术合成二创色情内容的网站,巅峰时期曾有近7万个非自愿、甚至带有暴力色彩的伪造色情视频,超过650,000位会员,总观看量超过22亿次。在那里,泰勒·斯威夫特(Taylor Swift)“被强奸”、演员斯嘉丽·约翰逊(Scarlett Johansson)“被勒死”、演员娜塔莉·波特(Natalie Portman)“被群交”,加拿大前总理特鲁多,特朗普的女儿伊万卡等政界名流也惨遭“剪刀手,更有不计其数的网红和普通人沦为受害者。
如今,点开该网站的链接,页面显示永久关停的理由是“由于数据丢失,网站无法继续运营”。CBC News则在报道中暗示,此事绝非偶然,而是因为其幕后大佬——一位加拿大亚裔药剂师DavidDo的身份被曝光。
加拿大药剂师:白天配药,晚上配图
36岁的David Do毕业于皇家路大学,是多伦多万锦Oak Valley Health旗下Stouffville 医院的一名药剂师,年薪$12.1万。他和伴侣住在多伦多郊外的别墅,开一辆新款特斯拉,生活简单、平静。社交媒体上满是他和家人、朋友温馨的合影,俨然一位体面的亚裔中产。
然而,谦逊、温良的Do竟有两幅面孔!CBC News报道,经Bellingcat等机构调查发现,Do是MrDeepFakes.com的核心管理员“DPFKS”。这个账号不仅是网站的创始人,还亲自发布了161个换脸色情视频,包括应会员要求制作“桑德拉·布洛克(SandraBullock)裸体爆菊”。他甚至为其他用户提供技术指导。
正如“DPFKS”(Do)的网络签名“Fake it till you make it”(伪装直到成功),他的隐藏在过去的7年中相当成功。
2018 年初Reddit 社区禁止深度模仿二创后,MrDeepFake.com网站成立,其控制人的身份一直是媒体关注的焦点。但由于该网站的服务器满世界跑,且可以使用加密货币购买会员资格、支付创作者报酬,使得追踪难上加难。
Do的破绽始于一个很小的细节——用户名。
早在2018年,用户名为DPFKS的用户就是该网站管理员。同年,同名账户在Voat论坛发帖,声称自己拥有并运营MrDeepFake.com,“我刚刚下班回家,现在又回来做这件事了”。无独有偶,MrDeepFake上的DPFKS也曾在帖子中提及自己活跃在Voat上。
调查人员将该用户名输入可搜索的数据库发现,用户名、IP地址、出生日期、实际家庭住址、以及电邮地址都指向了Do!信息显示,他从2008年开始就活跃在色情论坛上。不仅如此,DPFKScom@gmail.com,这个MrDeepFake.com使用到2020年的联系电邮也出现在源代码中!
随后,调查人员通过筛查和比对多次数据泄露事件中曝光的信息,发现Do虽然注册了很多不同的邮箱,但都不约而同地使用了相同的密码,其中也包括他的Airbnb和Yelp账号。至此,Do的双重身份呼之欲出!
否认、逃避、关闭网站
锁定目标后,CBC News多次向Do发送邮件,寻求恢复。邮件的追踪功能显示,Do多次打开邮件,但并未回复。
4月11日,CBC News的记者在Do工作的医院堵到了他本人。Do表示对记者提及的事一无所知,并坚持要回去工作,“我现在正在上班”。
很快,他的Facebook个人资料及家人的社交媒体资料均被删除。5月4日,MrDeepFake.com宣布永久下线。这其间,他的Airbnb账户层显示他去了葡萄牙。
5月5日,CBC News的记者再次找到Do,试图确认他在MrDeepFake.com的角色。他表示不想被录音,而且很忙,之后就驾车匆匆离开。
Do的雇主Oak Valley Health向CBC News表示,他们已“与法律顾问协商”对此事展开内部调查,并称“我们无法发表进一步评论,但想明确表示,Oak Valley Health 明确谴责制作或传播任何形式的暴力或非自愿性行为图像。”
安大略省药剂师学院亦表示正在调查取证。
另一种“N号房”:黄谣与暴利
2017年初,Reddit用户“Deepfakes”发布了用AI换脸生成的《神奇女侠》主演盖尔·加朵(Gal Gadot)的伪造色情视频。该事件引爆了公众对深度伪造这一技术风险的讨论,也促成了Reddit封禁9万多相关用户。
MrDeepFakes.com由此应运而生,逐渐发展为最受追捧的色情网站,尽管网站规定“只有粉丝超过12万以上的名人可以被换头”、“非名人换头需要经过同意”,但除了上文提到的、家喻户晓的好莱坞明星、政商界名流之外,调查人员发现,一位在Instagram上仅有29000粉丝的洛杉矶女性被非自愿嵌入色情视频中,此外还有会员付费寻求“专家帮忙制作妻子或伴侣的色情视频”。
MrDeepFakes.com的会员还将受害者称为“贱人”,甚至有人声称“她们的行为活该被造黄谣”。
油管(YouTube)博主Sarah Z表示:“每次它被用于像泰勒·斯威夫特这样的大牌明星,都会鼓励人们将它用在像我这样更小众、更小众、更私密的个人身上。”
加拿大裔美国人Gail Kim是其中一位受害者。她于 2016年入选 TNA摔跤名人堂,最近在真人秀节目加拿大版《极速前进》和加拿大版《叛徒加拿》中做嘉宾。
Kim说她不敢看自己的“小电影”,她说很多年轻人因为这些“莫须有”的视频背上沉重的道德枷锁,甚至自杀。
Do却踩着别人的尊严和痛苦赚得盆满钵满。他通过会员订阅、广告和定制视频牟利。2020年的一份帖子显示,网站月收入高达4,000至7,000美元。目前,高质量的“伪造小黄片”购买成本可能超过$400一条。此外,他还试图通过离岸公司、匿名支付等手段洗白资金,甚至咨询如何绕过“客户身份验证”以隐藏所有权。
法律困局:卡尼曾承诺立法
根据网络安全公司Security Hero的报告,2023年,网络上有超过9万个“换脸小黄片”,主要是以女性为观看对象。相较于2019年,这一数量暴增了550%。这时距离神奇女侠被造黄谣引发公众担忧已过去了6年。
比起技术的狂飙突进,立法是非常缓慢的。
在英国和澳大利亚,分享未经同意的露骨深度伪造视频分别于 2023年和 2024年被定为刑事犯罪。
今年4月28日,美国众议院高票通过了《删除法案》(“Take It Down Act”),将未经本人同意在网上发布真实和AI伪造的露骨性图像定为联邦犯罪,这也是美国通过的首个联邦层级人工智能监管法案。
在加拿大,制作和分享未经同意的成人深度伪造人工智能色情片尚不构成刑事犯罪,但总理卡尼曾在竞选期间承诺将该行为入罪。目前,加拿大的法院已开始将儿童色情相关法律应用于人工智能深度伪造。 BC省最近通过了一项法律,使成年受害者更容易获得民事赔偿。与此同时,爱德华王子岛、NB省和萨省也出台了类似的法律。
Do的落网并非因技术漏洞,而是人类惯有的傲慢——他忘了自己在现实世界也是肉身一具。希望此案能成为推动加拿大深度伪造色情技术立法的契机。
新闻来源:CBC News,Bellingcat, Liberal.ca
长按下面的二维码,就能扫描关注我们的公众号哦~