如果不是有人联系奉告，Rose可能永久不会知道，一年前她在社交账号上发布的生活照片，被人改成了裸体照片，如今正在色情网站流传。
一套人工智能算法，数十张正常的生活照，二者结合，就能凭空天生一个女性的裸体照片，乃至把她的脸移花接木到淫秽***女优身上。类似的事情正在中国发生，多位有名女明星也中招，成为不法卖家的牟利工具。
今年6月下旬，一款名为“DeepNude”的AI软件现身网络。它以人工智能算法为根本，可以识别并“删去”照片中人物的衣服，从而把正常照片转为“裸照”。据外媒测试，原始照片的清晰度越高、女性袒露的肌肤越多，转换出的“裸照”就越逼真。
左侧为真实照片，右侧为DeepNude假造的照片。图自Motherboard。由于假造女性裸照极具道德争议，DeepNude火了不到一个星期便被开拓者下架。6月27日，开拓者在推特发布声明称，“从未想到该软件会得到病毒式传播”。他承认，只管软件天生裸照后会打上“假造”等遮挡水印，人们滥用软件的可能性还是很大。“这个天下还没有做好接管DeepNude的准备。”开拓者说。
开拓者还表示，肯定会有DeepNude的部分副本在网上流传，如果有人从其他地方***、分享这些副本，将违反DeepNude官网的利用条款——如今，这一判断成为了现实。对付盗版者而言，“违反利用条款”的警告丝毫没有震慑力。
南都检索创造，DeepNude官网关闭后，各种版本的软件先是在开源社区GitHub上流传。7月10日，GitHub全面封禁了类似项目的代码库。但DeepNude依然流入中国，并在各种社区和云盘内悄然扩散，乃至有电商平台商家打出“DeepNude破解版”“无水印”的名号售卖该软件牟利。
在某电商平台，“DeepNude破解版”“无水印版”的售价在3.99元到10元不等。但根据该电商平台社区规则，用户不得发布色情低俗信息，也不得发布陵犯他人牌号权、著作权、专利权的信息。按这些规则判断，DeepNude无疑属于违规交易物品。
某电商平台上兜售DeepNude的商家。图/AI前哨站。值得把稳的是，部分卖家明显在用话术规避平台监管。一位卖家在商品先容中提示，“直接拍，拍完私聊秒发货”。另一位卖家则声称“被禁言了”，在商品先容中留下了微旗子暗记，哀求买家加其微旗子暗记完成购买。还有的卖家将头像设置为二维码，提示买家通过“扫一扫”跳转进入其他平台的链接购买。
卖家用话术躲避平台监管。图/AI前哨站。北京京都状师事务所状师金杰指出，利用软件把他人照片转为裸照，属于违法侵权行为。“利用软件将他人照片转为裸照扩散，既严重侵害他人肖像权，也严重侵害他人的名誉权，让"大众年夜众误认为是他人‘春光透露’，或者有其他不良行为、不良癖好，严重危害了他人的人格，也降落了他人的社会评价，是法律所严格禁止的。”金杰说。
***软件是否构成违法？金杰认为，要详细情形详细剖析。如果是仅限个人利用并不扩散，不会对他人造成危害，则不构成侵权。如果是出于恶意或者专门***给某者些个人或组织，用于造孽目的，则该当认定为违法或违规。
南都调查创造，与DeepNude比较，另一种利用了类似算法的人工智能技能，Deepfakes，在黑灰产中更受欢迎。不同于前者只能天生裸照，Deepfakes主打“***换脸”。此前火爆网络的“朱茵变杨幂”***，便运用了干系技能。
自2017年开始，就有基于Deepfakes的换脸***在美国网站流传。逐渐地，包括“神奇女侠”扮演者盖尔·加朵、在《复仇者同盟》饰演“寡姐”的斯嘉丽·约翰逊、《冰与火之歌》中的“Arya”麦茜·威廉姆斯在内，诸多高人气女演员接连惨遭“毒手”，被合成到了色情淫秽***中。只管有网站宣告“封杀”，但此类***仍然在网上层出不穷。
盖尔·加朵曾被Deepfakes换脸。图自网络。如今，这一风气也传到海内。南都在电商平台创造，一些商家以“动作”“敏捷换脸”“成品”等隐晦关键词叫卖Deepfakes技能制作的淫秽***，但***中的女主角却变成了中国有名女星，涵盖一众80后到90后影视“大小花”。
一些卖家兜售的换脸***合集。有卖家放出部分***截图招揽买卖。这些***合集的售价从18.8元到199元不等。有卖家在商品先容中写道，***利用了深度学习技能，“偏差在0.01乃至0.005”，共有 280个“佳构资源”，总大小在40G旁边。该卖家同时贴出的截图显示，有买家评论“做的没马脚”。南都把稳到，为绕过平台监管，部分卖家会在发布一段韶光后删除商品，并通过头像留下购买提示。
一些卖家通过“成品”“链接”等隐晦词语提示购买，以躲避平台监管。除了电商平台，Deepfakes也在外国的色情网站上大行其道。某有名色情网站2018年便宣告禁止发布Deepfakes制作的***，但至今仍有用户上传涉及中国女明星的换脸***，并在标题中公然打出“人工智能换脸”“AI合成”等关键词。这些换脸淫秽***均有数十万浏览量，有的乃至超过百万。
一家已宣告禁止传播换脸***的色情网站，如今仍有中国女星的换脸***。北京莫少平状师事务所状师莫少平说，商家在网上兜售换脸淫秽***，肯定属于违法行为。根据情节不同，轻则违反《治安管理惩罚条例》，重则触犯《刑法》，构成犯罪。
按照《治安管理惩罚条例》，制作、复制、***、出租或者传播淫书、淫画、淫秽录像或者其他淫秽物品的，处十五日以下拘留。《刑法》中则规定了“制作、复制、出版、贩卖、传播淫秽物品牟利罪”与“传播淫秽物品罪”，对构成犯罪的深究刑事任务。
而从民事层面看，未经当事人赞许，以营利为目的利用公民的肖像，则有陵犯肖像权之嫌。虚假的淫秽***，也可能构成名誉侵权。
谈到暗中广泛流传的明星换脸***，北京京都状师事务所状师金杰说，这些***一旦流传出去，既是对女明星的人格侮辱，也严重危害了她们的名誉。对这类***的扩散，应该引起重视。
各类新政表明，监管层已把稳到以Deepfakes为代表的恶意的人工智能运用。今年4月提交十三届全国人大常委会第十次会议审议的民法典人格权分编拟规定，任何组织或个人不得以利用信息技能手段假造的办法侵害他人的肖像权。
5月尾，国家网信办会同有关部门发布《数据安全管理办法（搜聚见地稿）》，个中哀求，“网络运营者利用大数据、人工智能等技能自动合成***、博文、帖子、评论等信息，应以明显办法标明‘合成’字样；不得以谋取利益或危害他人利益为目的自动合成信息”。
不过，这些尚未正式出台的法律法规，还无法有效阻挡 DeepNude、Deepfakes及假造裸照、淫秽***的传播。
有技能职员见告南都，从实践来看，用Deepfakes制作逼真度较高的换脸***，至少须要千余张的照片。但是，目前已经涌现了一些新的技能方法，即便只有一张照片，也可以制作出换脸***。
至于DeepNude，本身便是针对单张照片的转换软件。
这意味着，不仅是女明星，任何曾在社交媒体上公开过生活照片的女性，都可能成为恶意运用的受害者。
正如前文所说的新加坡女孩Rose，她的假造裸照在色情网站流传，本人却绝不知情。据新加坡媒体the Star Online 宣布，过去几周内，有数个像Rose一样的受害者涌现。有人盗取了她们的社交媒体照片，通过DeepNude修改后发上色情网站。并且，这些照片还在被一直地重新编辑，变得越来越多。
Rose 被修改的照片之一。图自the Star Online。如果不是被媒体联系到，Rose可能还蒙在鼓里。“这非常令人恶心！
太不尊重人了，也太变态了。如果有人对他们的母亲，姐妹，妻子或女朋友做这样的事呢？”Rose朝气地说。
美国民间组织Revenge Porn的创始人兼首席实行官Katelyn Bowden曾作出光鲜表态，认为DeepNude 这样的技能不应该向"大众开放。“现在任何人，乃至在根本没有拍过裸照的情形下，都可能创造自己成了色情报复的受害者。”她对媒体表示。
“是的，这不是你真正的私处，但别人会以为他们看到了你的裸体。一个Deepfakes的受害者曾见告我，她以为有上千人看到了她的裸体，她的身体彷佛不再是自己的了。”马里兰大学法学院教授Danielle Citron在接管外媒采访时说。
环球司法者设法应对的同时，技能职员也在寻求破解之道。今年 6月初，有企业在 DEF CON CHINA 1.0大会上展示了“打假”成果，研究职员用深度神经网络来演习识别算法，识别假造***的准确率超过了90%。6月尾，加州大学伯克利分校和南加州大学的研究者也发布了一项进展，据称“打假”精确率达到了92%。
技能彷佛总是比伦理跑得快。在法律和技能都还无法有效阻挡假造裸照和淫秽***传播的情形下，女性不得不更加守旧和谨慎地对待社交网络。
Rose见告媒体，她打算将社交账户设为“私密”。
采写：南都 冯群星
