刚刚，AI 冒充老板声音骗走 173万！技术一旦被用来作恶，这个世界就乱套了！
2019/9/5 22:14:40 走进科学
点上面，快速进入并关注走进科学
“走进科学”微信公众号
K95028
看破迷雾，人生就会更淡定从容!
导读：人工智能(AI)技术已经变得让人难辨真伪。从文字、声音到图像、视频，没有什么是 AI 不能创造的。这在犯罪分子看来，无疑是一件“如意金箍棒”。一键美颜、一键修图、一键还原、一键变声......不经然间，科技发展，好像什么东西都能一键生成。制作逼真的深度造假(deep fake)视频可能需要做大量的工作，但使用AI，用虚假语音实施欺诈来得更容易更快捷。
模仿老板声音让科技公司上当
这次被AI欺骗的是一家企业CEO。根据华尔街日报报道，今年 3 月，犯罪分子通过商业化的人工智能语音生成软件，成功模仿并冒充一家英国能源公司的德国母公司 CEO，来欺骗其多位同事和合作伙伴，一天内多次诈骗并转移资金，使得该公司损失 220,000 欧元(约合 173 万元人民币)。
(来源：thenextweb)
《华尔街日报》的Catherine Stupp报道：“一家总部位于英国的能源公司的负责人以为，另一头与他通电话的是他的老板，即这家公司的德国母公司的首席执行官，对方让他将资金转给一家匈牙利供应商。据该公司的保险公司Euler Hermes Group SA声称，来电者称这个要求很紧急，指令该首席执行官在一小时内付款。Euler Hermes拒绝透露受害公司的名字。”该报援引总部位于慕尼黑的金融服务公司安联的子公司Euler Hermes的欺诈专家Rüdiger Kirsch的话表示，英国负责人在电话中认出了他老板略微带德国的口音和腔调。该负责人按要求将款项打给了匈牙利供应商，事后对方再次联系他，保证转账立即给予报销。这是一起语音欺诈的新案例，即 vishing(“语音网络钓鱼”的缩写)，犯罪分子使用人工智能技术来自动化网络攻击并诈骗，获取钱财，是一种非常可怕的手段。
毫无疑问， AI 技术正在造福人类，比如说语音助手、机器人服务等等，但是人们对其技术的运用，并不一定都是正面的。
用AI算法制作女性裸照
试想一个场景： 当你在海滩尽情玩耍，把清凉比基尼照片发到朋友圈。 却被猥琐男用软件“一键脱衣”，再将你的“裸照”分享给其他人。 是不是既无奈又无助？ 前不久，美国程序员Alberto开发出一款名叫DeepNude的软件。 借助AI技术，使用者无需专业知识，只要提交一张女性照片，就能自动“脱掉”衣服，生成裸照。 原图裸露皮肤越多，处理效果越好。 。当然，裸照也不是免费得到的，该软件分为免费和收费两个版本，免费版本会在处理过的照片上放上大片水印；支付50美元使用收费版本则可去除水印，处理过的照片只会在左上角带有“FAKE”的字样。
网上流传出一些明星被“脱掉”衣服后的照片。
很多的女性都表示，这样的软件太恶心，随便把女性的照片变成裸照，视女性为玩物。
有人尝试上传男性的照片做试验，结果生成的图片还是女性的形体，也就是说，这个软件的“脱衣”功能只针对女性。软件开发者Alberto强调说：“我不是偷窥者，我只是技术爱好者。”在推出软件之前，Alberto也曾想过这样的软件该不该制作出来，会不会伤害到别人的问题。最终他还是决定推出这个软件，因为他想到用Photoshop也能做到去除衣服的效果，但是要用上好几个小时，如今软件就是缩短了时间。偏偏“便捷”就是罪恶滋生的开始，越来越多的人前去下载软件，越来越多的人对该软件进行声讨、指责。在舆论的压力下，最终DeepNude的创建人宣布关闭该应用程序。从AI脱衣想到看到AI脱衣事情，相信很多人都会想到最近大火的换脸软件ZAO。“仅需一张照片，出演天下好戏”，通过AI换脸“以假乱真”。你可以替莱昂纳多与Rose深情告白，也可以替沙溢在同福客栈施展葵花点穴……通过极其简单操作就可以满足“戏精”欲望。社交网络一时间充斥着各类换脸视频，仿佛全世界都在Cosplay。8月30日上线，不到24小时，这款APP就以火箭般的速度在各应用商店免费应用排行榜中蹿升至第二位，同期更是微博热搜前十话题。 
图片来源：APP下载页面截图
因为过于火爆，8月31日凌晨，距离上线仅仅几个小时，ZAO的官方助手表示，服务器已经“满负荷”运转。 
来源：微博但让ZAO冲上话题榜的不是以此作恶，而是ZAO恶意的用户协议。
正当大部分用户沉浸在Cosplay的氛围里无法自拔时，有细心用户发现，ZAO的用户协议暗藏玄机。其中有一条写道：用户上传发布内容后，意味着同意授予ZAO及其关联公司以及ZAO用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”。翻译一下，就是用户一旦使用这款APP，就意味着把自己的肖像权完全让渡给了该公司，它可以利用用户肖像去做其他事情。面部信息是非常重要的生物特征，尤其是在当下已经跟自己的身份证明、金融账户密切相关，安全性会不会有风险？更别说会不会将用户照片交给很多黑色产业链？这样为自己作恶辩护而早早做好的“协议”准备让人不寒而栗。
换脸在色情市场炸了
其实，AI换脸技术比AI脱衣红得更早，早些时候还因为不同明星的脸换到不同剧情里还上过几次热搜。杨幂朱茵换脸。
寡姐变成佟湘玉。
鹿晗版小龙女。
这些换脸视频最早在微博上传播的时候，大家都当看乐子般一笑而过。想象一下，只需要花点钱，你就可以虚构出来全世界所有女性的“裸体照”!心术不正的人拿到这些照片可以去做什么？敲诈勒索。哪怕不图财，仅仅是把这些图片散播出去，都会对当事人的名誉和生活造成毁灭性打击。背后用到的技术也许无罪，但是组合起来这些技术做出这产品的开发者可以说是丧尽天良。
后来有网友提醒这样的行为其实侵犯了明星的肖像权，一度也引起了纷争。
还有闲着没事的粉丝将换脸前后的明星做比较，在评论里引发骂战，争议不断。不过，拿AI换脸将明星换到不同剧情里，还算不上恶俗。真正恶俗的，是有人用AI换脸将女明星的脸换到色情影片中去。AI换脸最早被大众知道，就是有人在国外论坛上发布了AI换脸后的女明星色情影片。盖尔·加朵的脸被换到色情影片中
虚假色情影片的传播太快，论坛为降低影响关闭了这个讨论组。可是关闭得了讨论组，关闭不了大众想讨论的心。在那之后，不断有女明星被AI技术换脸到色情影片里，国内国外的女星都备受困扰。寡姐斯嘉丽·约翰逊在接受采访时就曾怒斥用人工智能制造色情内容的行为，她说这些不雅视频对她造成极大的困扰。可是除了训斥斯嘉丽也别无他法，斯嘉丽的团队表示，她们根本控制不了虚假色情影片的制造和传播。千万不要以为只是女明星才会遭受此劫难，也有人将自己的同学朋友换脸到色情影片中。随着科技的发展，人们的随意利用，如今AI换脸技术慢慢变成了制造假消息、假色情影片的工具。在网络时代，这些虚假的消息和视频又都难以被删除或遏制住，最终技术成为了罪恶的帮凶。
世界似乎乱套了
AI 换脸技术是视觉识别类的人工智能技术，同理，AI 换声音是语音识别类的人工智能技术。如果把这两个技术融合起来，就能制造出真假难辨的假视频。
美国前总统奥巴马就“中招”了。
2019 年 4 月，美国娱乐网站 Buzzfeed 发布了一条以假乱真的视频。
视频中，“美国前总统奥巴马”模仿他的声音和惯用动作讲了一段他从未说过的话，当然这个视频也明确告诉观众，这是使用 AI 换脸技术制作，目的是让公众了解这种技术的危害性。
制作者使用了网络上免费的技术和工具，并花费了 56 个小时来搜集和汇总奥巴马的模型。
此后美国政治、经济等一批大佬都成为 AI 换脸视频的主角，这些假视频替代他们发布各类言论，骗了数百万人，同时也让被模仿者的个人形象、声誉受损。
模仿你的脸和声音，通常没有什么好事。
六耳猕猴模仿孙悟空，打晕了师父唐僧，还抢走了包袱和经文。假李鬼冒充真李逵，干起了截道抢劫之事。
目前，AI 换脸、换声这类技术，不仅造成了“色情报复”、政治风险，也在让各类网络诈骗有可乘之机。
一些网络诈骗案例中，诈骗分子往往是通过语音、电话等方式模仿受害者。
而视频通话、视频的可信度明显高于语音、电话。
通过 AI 换脸、换声，诈骗分子的伪装手段将会更加高明，防范的难度也将急剧上升。
这类技术也很有可能被诈骗分子用来降低被害人的警惕，进一步迷惑被害人。
比如杀猪盘的诈骗套路里，骗子主要通过文字、语音与被害人聊天，如今随着这类骗局被揭露曝光，骗子也越来越难得手。
但是如果一个美貌年轻的女网友，或者英俊帅气的男网友，通过视频通话和你聊天，声音还相当温柔亲切，那么上当受骗的人可能就更多了。
鹅师傅还发现，AI 换脸、换声已经不算什么了，UC 伯克利大学团队的 Everybody Dance Now 技术，已经可以自动生成假冒的舞蹈视频。
图片左上角是舞蹈动作来源，而右边两个则是通过技术生成的虚假视频。
AI 换脸、换声，让一个人在视频里，说着自己从来没有说过的话；Everybody Dance Now 技术，则是让一个人做自己从来没有做过的动作。
真是细思极恐。
被代码撕开的人性遮羞布
AI技术的不当运用可能引发的，不只是诈骗、诬陷、报复、勒索那么简单，它所掀起的信任危机，将会把每一个个体都卷入其中，DeepFakes的准入门槛越低、换脸、换声的效果越是逼真，人与人之间的不信任感就会越强。 早在2017年时，肯尼迪政治学院贝尔弗科学与国际事务中心就在美国情报高级研究计划局(IARPA)的要求下对相关技术进行过分析，他们发现：目前AI技术的“伪造”水平已经极其强大且具有很高的迷惑性，这意味着，上文设想的很多“技术作恶”的情况都将慢慢变成现实。过去对电信诈骗不堪其扰的人，未来在AI诈骗面前可能逃无可逃。更可怕的地方在于，一旦AI技术被不当利用且与社交媒体结合，还可能造成假新闻泛滥的情况，如果有不端分子控制了新闻机构的网站或账户，并发布一些不实消息、语音甚至视频，则可能造成更大范围内的恐慌。
虽然在美国，滥用deepfakes技术已经涉嫌诽谤名誉、侵犯隐私、侮辱人格等罪行，但制作斯嘉丽?约翰逊假视频的人，仍有可能受到美国宪法修正案关于言论自由的保护。况且，想要证明AI合成的肖像就是你本人也是比较困难的，制作者完全可以在一些细枝末节的地方做点手脚，让这个人看起来很像你，但又和你有着细微的区别，比如，在你脸上多画一颗痣，你又要怎么证明这个人就是你自己呢？
这可能正是法国哲学家鲍德里亚所形容的现代社会的典型特征之一：那个曾经被当作“原初”的“真”已经失去，人类社会开始进入到复制时代，一切都在复制和再生产，一切都是“虚假”的，而“虚假”已经变成了真的；另一方面，齐泽克也同样指出，曾经分为现象和本质的二元哲学也已经无法适应当代生活，AI技术和网络将这一点“发挥”得淋漓尽致。技术的问题，可能最终还得通过技术来攻克。据报道，为了规避AI技术存在的潜在风险，欧美的国家安全机构已经致力于研发一些“反AI”工具，力图以AI攻克AI，美国国防部高级研究计划局推进的Media Forensics计划便在AI生成的假脸中找到了一些突破口，研究人员发现，通过观察眼睛的状态(是否眨眼)，可以检测出哪张是AI合成的脸，哪张是真实的脸。
虽然如此，AI和反AI的角力大概会一直持续下去，但各位研究人员应当铭记：
技术本身无罪，
但运用技术的人应该善良。
欢迎到下面留言发表您的看法
自然和社会科学的灯塔——走进科学
长按以上二维码可关注本公众号，十几位中科院院士都关注了公众号“走进科学”(k95028)，让我们一起，看破迷雾。
走进科学文章，只为探寻真理，您的一次传播可能会照亮无数人的生命
http://weixin.100md.com
返回 走进科学 返回首页 返回百拇医药