以毒攻毒?Facebook放出十万个Deepfakes视频来训练AI识别它们

2020-06-17

2

Deepfakes这项技能触动了大众和研究人员的神经。这些人工智能生成的肖像说着或做着“他们”没有说过或做过的工作,这让人看着特别的别扭。

现在,制作Deepfakes的东西现已十分遍及,并且运用起来也相对简单,许多人忧虑这些东西会被用来传达风险的错误信息。例如,他人可以凭借政客们的形象来宣告自己的言辞,或许让他们参加到他们根本就没有参加过的活动中。

关于人眼来说,Deepfakes依然相对简单被识破,但至少这是一种忧虑。依据网络安全公司DeepTrace Labs 2019年10月发布的一份迄今为止最全面的陈述,Deepfakes尚未被用于任何传达虚伪信息的活动傍边。可是,这份陈述也发现,网上发布的Deepfakes数量正在迅速增长,在曩昔7个月里大约呈现了1.5万个,现在这个数字应该会更大。

交际媒体公司忧虑,Deepfakes或许很快就会在它们的网站上众多,可是要主动检测出Deepfakes是很困难的。为了处理这个问题,Facebook期望运用人工智能协助反击人工智能生成的虚伪图画。为了练习AI辨认这些虚伪视频,Facebook发布了有史以来最大的Deepfakes数据集——运用了3426个艺人和一系列现有的换脸技能的100000个编排视频。

Facebook首席技能官迈克•斯科罗普夫(Mike Schroepfer)表明:“Deepfakes现在还不是一个大问题。但我在曩昔几年的沉痛阅历中学到的经验便是要有备无患。我想要为那些历来没发生的坏工作做好预备,而不是束手待毙。”

Facebook也宣告了Deepfake检测应战的获胜者。2114名参加者提交的35000个模型都在这些数据集进步行了练习。其间,最好的模型由测绘公司Mapbox的机器学习工程师Selim Seferbekov规划,在一组包含1000个生疏视频的数据会集,该模型的检测正确率有65%,(该数据集还包含一些由Facebook制作、以及现有互联网上的Deepfake视频)。

为了让测验变得更困难,练习集和测验集包含有或许会使检测模型觉得利诱的视频,比方化装教程,还有在说话者脸上有弹幕和图画的视频,以及通过改动分辨率或方向、怠慢播映速度等办法进行过调整的视频。

排名前五的参赛模型没有学习司法鉴定技能(比方在Deepfake生成进程留下的视频像素中寻觅数字指纹),而是好像现已学会了区分什么东西看起来“不对劲”,就像人类相同。

为了做到这一点,获奖者都运用了谷歌研究人员上一年开发的一种名为“功率网(EfficientNets)”的新式卷积神经网络(CNN, convolutional neural network)。CNN常用来剖析图画,并且拿手检测人脸或辨认物体。可是,要想将模型的精度进步至某一特定程度,就需求进行特别的微调。功率网供给了一种更结构化的微调办法,使开发更准确的模型变得更简单。可是Seferbekov表明,它们在这个使命上比其他神经网络体现得更好的原因还不清楚。

Facebook不计划在其网站上运用任何获奖模型。首要,65%的准确度还不够好。一些模型对练习数据的辨认准确率尽管超越80%,但辨认此前没见过的编排视频时准确率就下降了。Seferbekov说,兼容辨认新视频是最难的部分,由于新视频或许包含用不同技能交流的不同面孔。

他以为,进步检测正确率的一个办法便是重视视频帧之间的转化。Seferbekov说:“即使是十分高质量的deepfakes 著作也会在画面之间呈现闪耀。”人类很拿手发现这些不一致的当地,尤其是在面部镜头中。可是要主动捕捉这些标志性的缺点将需求更大、更多样的练习数据和更多的核算才能。Seferbekov尝试过追寻这种帧转化,但最终没有成功。他说:“CPU是实在的瓶颈。”

Facebook主张,Deepfakes检测也可以通过运用图画或视频剖析以外的技能来进行改善,比方评价其上下文或出处。

山姆•格雷戈里(Sam Gregory)是“证人”(Witness)项目的负责人(该项目支撑人权活动人士运用视频技能),他欢迎交际媒体渠道出资Deepfakes检测技能。Witness是AI Partnership的成员之一,该公司为Facebook的数据集供给主张。格雷戈里赞同Schroepfer 的观念,也便是应该做最坏的计划。他说:“咱们还没有阅历过deepfake末日,但这些东西会加重性别暴力和错误信息的传达。”例如,DeepTrace Labs的陈述发现,96%的Deepfakes是没有通过双方赞同的色情著作,也便是把其他人的脸贴在色情片表演者的脸上。

当数以百万计的人可以创作和共享视频时,信任咱们所看到的东西比以往任何时候都变得愈加重要。假新闻现已像野火相同在Facebook上传达了,而仅仅只是Deepfakes的或许性就现已引发了人们的置疑,让咱们更有或许质疑实在和虚伪的视频。

并且,主动检测或许很快就会成为咱们仅有的挑选。Seferbekov说:“在未来,咱们将会看到人类无法辨认的Deepfakes视频。”

编译/前瞻经济学人APP资讯组

参考资料:https://www.technologyreview.com/2020/06/12/1003475/facebooks-deepfake-detection-challenge-neural-network-ai/