中宏网北京7月19日电(记者边芙蓉)2019年7月,在某视频网站播出的电视剧《长安十二时辰》,最近时常霸占微博热搜榜单。其参演演员黄海波由于过去的劣迹被广电总局要求删掉其所有戏份,就连为了保持故事衔接仅仅出现几秒钟的脸也难逃被换的尴尬,片方利用AI换脸技术对他的面容进行了调整。
AI换脸出现已久,从最初的影视特效应用到被频频与淫秽视频相勾连,不论是好莱坞著名影星盖尔加朵还是国内一些当红女星,纷纷成为其受害者。AI换脸技术的发展已经不仅仅是技术驱动的新型娱乐方式,不法分子也觊觎已久,其衍生出的产业链更是惊人。从前期的换脸教学付费课程,到定制换脸的收费服务,再到被换脸视频的销售与购买,灰色经济链条已经形成,但其内容绝大部分无法拿上台面公开分享。
据调查,AI换脸技术合成的淫秽视频,价格最低有4元一部,也有158元打包出售700部视频的。售卖不雅视频这种高复制性、高利润的灰色产业已经让不少违法分子赚到了大笔灰色收入。
除了大部分源自对明星恶搞的AI换脸不雅视频,对普通人的“移花接木”也时常出现,如满足个人“报复行为”的“定制换脸视频”,而这背后充满了报复性色彩。需要这种服务的普通客户往往会要求技术人员制作不堪入目的视频,将自己仇恨或者想入非非的对象嫁接到不雅视频或血腥变态的画面上,其售价也仅仅为1分钟20元-50元不等。
技术的更迭大大减小了换脸视频的技术难度。通过使用高配置电脑和FAKEAPP软件短则几十分钟搞定,所需合成视频的照片数量也从最初的20多张不同角度照片“进化”为只要一张照片就能实现换脸,今年6月deepfakes发布消息,只需要“一张照片+他本人的演讲音频”就可以合成视频。
购买此类视频也相当容易。不论是某宝、还是旗下某鱼,都能够找到相应的购买链接,有些甚至也在微信内进行交易。假设一个售卖者一天可以卖出20部,客单价为10元,那么单日收入即可达到200元,一个月就有6000元。一旦传播触及多人,会迅速形成裂变式传播,其产业规模之庞大令人咋舌,然而这一切都是在无任何安全监管和税政监管的情况下进行的。
关于AI换脸视频也存在着诸多法律隐患。据北京索朗律师事务所李贺律师和北京风展律师事务所韩佳益律师介绍,AI换脸视频可能涉嫌多种法律风险。从刑事角度来讲,有可能涉及侮辱罪、诈骗罪、侵犯著作权罪、制作、复制、贩卖、传播淫秽物品牟利罪以及单纯的传播淫秽物品罪等;从民事角度来讲,有可能侵害到视频原作者的著作权以及“出演者”的名誉权、肖像权等。其刑期可能从二年以下到十年以上不等。一旦原作创作者决定起诉,制作者和传播者都难逃其咎。
可见,无形的手枪一旦扣动扳机,不仅会伤害别人,也可能给自己带来牢狱之灾,通过网络溯源,法网恢恢,一切可究。广大朋友同时也要具备隐私保护意识,慎重交友,以免发生矛盾后被对方获取照片后用于报复性犯罪。
除了恶意侵犯被害人人格权外,也有一些猎奇者可能觉得给明星换脸到不雅视频勿需承担过多的法律风险,因为明星的形象时常曝光,但明星作为自然人也具有普通人所享有的名誉权。如果被侵害,要承担一定的法律责任。据律师介绍,关于名誉和人格的伤害要以对被害人造成的实际损害为准。假若致使被害人抑郁自杀,犯罪嫌疑人将会承担更严重的判罚。
娱乐需有度,恶意必惩戒。在科技飞速发展的新形势下,我们既要认清科技是时代之需、发展之要、民生之盼,也要看到因技术短板、监管不力、应用失范等因素而引发的潜在风险和对社会带来的实际危害。如何应对新技术对法律带来的挑战?专家指出:“唯有未雨绸缪地找准、判明科技发展带来的风险点,并及时进行立法,才能在抢抓战略机遇的同时,适时化危为机,确保社会规范有序。”