火不过一天

发布日期 2019-09-02

过去的这个周末,想必很多人都被朋友圈一款换脸的ZAO刷屏。 不过,ZAO火得也快,降温也更迅速,不过一夜之间,似乎就悄无声息了。当然,其中原因之一,是朋友圈已经禁止链接分享了。


这款产品的玩法也很简单,就是在该平台上传自己的脸,替换各个影视作品中的明星角色,最后再分享朋友圈。这种换脸后毫无违和感又有极强代入感的视频,让许多人过了一把十足的明星瘾。

 
关于这款软件的背景和其潜藏的危险,许多人已经很详细分析过,不过,绝大多数解读也只是对软件协议条款有关隐私和权利义务的技术性批评,对于更多普通人而言,这些晦涩难懂的条款,在实际生活中的风险究竟意味着什么却并不为人知。但好消息是,现阶段,无论是从市场选择,还是安全监管,它都还不能走太远。

魔鬼交易


与国内许多疯狂收集个人信息的软件一样,在你选择这款换脸的ZAO、生成自娱自乐的名场面再分享到朋友圈之前,你首先需要提交你的个人信息,诸如你的手机号码绑定,以及详尽的脸部生物信息。这些信息不仅仅是让你换脸这么简单,按照ZAO的用户协议,ZAO及其关联公司不仅可以免费使用和修改你的各种动态和静态的肖像,甚至任意第三方,ZAO都可以授权它们使用你的肖像。也就是说,在你点击同意的时候,你已经失去了你的肖像权。
 
其次,你把《陈情令》中肖战的脸换成了自己的脸,和王一博来了一段对手戏,那么,你要确保肖战同意ZAO及其关联公司以及授权的第三方使用他的脸。若日后肖战认为他的权益受到ZAO及关联公司以及授权的第三方的侵害,那么那这个责任在你,跟ZAO及关联公司以及第三方没有任何关系。
 
所以,这个有关用户条款的首要问题,是ZAO与你之间的权利义务完全不对等的的问题,在你同意他的条款的同时,也就相当于与魔鬼达成了一笔交易。从此,你的脸已经不属于你,但日后侵权的责任还由你来背。
 
当然,这种事关权利义务的问题,若真正被对薄公堂,现有的司法体系恐怕也难以支持这种完全不对等的霸王条款。只是,除了ZAO所体现的这些表面问题,事关用户的隐私和安全问题,才是隐藏在冰山之下的真正挑战。

Deepfake的前车之鉴


ZAO的换脸并不是什么新鲜技术,早在两三年之前国外就已经有了相关的AI技术应用,早期这种换脸技术是用于影视专业领域制作。不过,这门此前具有极高门槛以及费用颇高的AI技术,在Deepfake出现后,就如同眼下的ZAO一样,几乎是所有普通人都可以不费任何力气和费用瞬间换脸,真假莫辨。
 
但是,令Deepfake技术人员事先并没有想象到的,这门看上去颇具娱乐精神的技术,马上就被很多人被运用到了色情领域,诸如美国著名的某色情网站上,瞬间出现了很多被替换成大表姐、寡姐等女星脸的黄色视频,以致于大表姐不得不站出来应战并呼吁封杀;而另一方面,很多犯罪分子也将这项技术运用于制作假视频用于报复、敲诈勒索,还有很多人用于假新闻、政治领域,比如当时轰动一时的的奥巴马和小扎的演讲,事后证明都是被换脸后的假新闻。这显然极大挑战了立法者的神经,所以不久之后,Deepfake就被封杀了。
 
不过,Deepfake的技术并没有因此消亡,就在不久前火爆全球的的Deepnude自动脱衣技术,也是利用Deepfake相同算法技术的衍生应用。好在与Deepfake一样,Deepnude也没有逃脱被封杀的命运。
 
ZAO似乎是吸取了Deepfake的一些教训,所以其应用中,已经设定了自动识别公众人物的功能,防止用户将公众人物的脸用于一些动机不纯的视频换脸。不过这显然不是其解决核心问题和挑战的方式。对于ZAO和Deepfake而言,其核心的问题在于,其深度伪造技术不仅仅是将明星或大众的隐私用于色情或是其他内容上以达成一些不可告人的目的,更重要的是,它对于互联网真实性的挑战,比从互联网诞生第一天开始所面临的所有真实挑战,更具颠覆性。而这种颠覆性,对于人类社会花费了很多年才建立的的网络社会的数字信任和共识的破坏是具有摧毁性的。这种社会信任被破坏所隐藏的社会成本几乎是无法估量的。
 
除此之外,对于利用AI尤其是DeepLearning技术的互联网而言,其学习和分析的基础与来源,是基于互联网的各类数据,如果源头都是假数据,那么最终得出的分析结论又有何意义?这对于互联网技术的进步和迭代的打击几乎是毁灭性的。
 
所以,全球在这个问题上的态度,并非是对创新技术或者新事物是否宽容的问题,而是在于,在现有技术发展不足以识别和筛选假数据的前提下,造假技术的发展并不值得拥有优先权,否则我们将会暴露在一个毫无安全感的环境中,无人幸免。

市场的选择


对于不缺钱ZAO而言,其未来商业模式如何,或许走的是与其金主陌陌相同的路径,诸如广告、会员、游戏以及与贩卖肖像权和版权的收入等等。但不管怎样,在一切还未明晰之前,先最大程度收集用户大量数据据为己有,未来再慢慢将这些数据变现,这个路径的代价是建立在无数用户的个人信息数据被滥用的基础之上的。
 
一天狂欢之后,新鲜劲已经过去的许多人也开始慢慢清醒过来,自己的个人数据是否有被人利用、贩卖甚至拿来做一些违法犯罪的事情的潜在风险。当然,这种担忧已经从单纯的ZAO延伸到了面部或者生物识别相关的很多行业中去了,令一个此前并不为大众所关注的领域,迅速充满质疑和担忧。
 
面对公众的很多担忧,与面部识别技术相关的一些企业也站出来做出了回应。比如最令大众担忧的支付宝刷脸付的技术,支付宝在第一时间表明其技术不是简单的2D刷脸,还有其他很多加密措施,所以现阶段不会发生被盗付的问题。
 
意味深长的是,在支付宝的声明中,它也强调,其一直在呼吁生物识别领域的行业自律,强调企业在采集用户生物信息时应遵循“最小、够用”的原则,防止用户信息被滥用。但实际上,“最小、够用、行业自律”这些字眼,只是对那些真心希望行业健康有序地发展、兼具强烈社会责任意识的企业有效,对于更多单一以纯商业化为目的的企业而言,对用户信息收集和滥用并没有任何底线而言,所以严格的行业监管其实更适用它们一些。
 
对于面部识别相关技术的应用,未来有无限广阔的想象空间,但在公众意识、社会共识、技术、法规等等更方面都不成熟的现阶段,ZAO的出现时机并不恰当,而且也带着十分危险的气息。市场的迅速降温已经给出了选择,或许很快,不等监管出手,它就会自动消失在公众的视野了。
本文来源:成功营销