AI时代,如何一眼看穿深度伪造图片

图片 1

本文系作者原创,授权“美国华人杂谈”独家发布。转载需征求许可,规范署名(公号名/ID/作者),违者必究

作者 | Terry
全文共 3814 字,阅读大约需要10分钟

 

近两年随着AI技术突飞猛进,今年美国大选中AI技术所带来的影响已经引发了各方的关注,其中AI技术生成的虚假信息更成为了一个不容忽视的问题。

        

当前,学界、政界和媒体已经统一使用一个专有名词来专门指代AI技术工具所生成的虚假信息,这些都被统称为“Deepfake”,中文直译为深度伪造。

        

本文将通过马斯克刚刚发布的一则“Deepfake”信息,向大家介绍识别这类虚假信息的有效方法。

 

马斯克又搞事  发布AI伪造图攻击贺锦丽

        

9月2日是美国的公众假日劳动节,不过X平台(原推特)的所有者马斯克依然活跃在平台上,还发布了一张攻击美国副总统贺锦丽的AI伪造图。   

    

640       

            

马斯克的这张照片将贺锦丽与共产主义者直接联系在了一起,暗示其当选后美国的政治走向。马斯克的这一举动引来了广泛的批评,不仅因为他利用AI深度伪造虚假信息来攻击政治对手,更因为他自己的X平台本身已经制订了关于Deepfake信息的管理政策,作为平台的老板,却堂而皇之地违反规则

               

马斯克的举动引来了一些左翼用户的回击,下图就是一名用户同样使用AI工具生成的马斯克与川普亲密互动的Deepfake图片,影射两位独裁者之间亲密无间的关系。    

      640 (1)

        

AI深度伪造假图屡次出现 部分内容真假难辨

        

围绕2024年美国大选的深度伪造信息已经多次出现。去年年底,佛罗里达州长德桑蒂斯在竞选广告中,就曾使用伪造的川普照片和声音来攻击对手。他的团队用AI生成了川普亲吻和拥抱福奇医生的图片,试图利用右翼人群对福奇医生的厌恶来攻击川普。   

     

640 (2)
德桑蒂斯团队使用AI生成的有关川普与福奇医生的虚假信息

 

今年以来,川普团队频繁使用AI深度伪造的内容来为自己造势。两周前我们曾辟谣过,川普支持者生成了一系列泰勒·斯威夫特及其粉丝支持川普的图片,而川普本人也转发了这些虚假图片。

        

更早之前,一组非裔美国人支持川普的假图也曾在社交媒体上广泛传播,甚至部分中文自媒体还用这些图片来攻击主流媒体。对此我们也曾在“选举舞弊”是虚假指控,但AI将对2024大选带来真切冲击一文中进行过核查。        

 

3            

不仅用假图片造势,他们还污蔑对手的真实照片是AI伪造的。8月初,川普团队就造谣称贺锦丽在底特律机场的竞选活动中,观众是通过AI工具添加上去的。我们之前的文章《声称贺锦丽集会照片是AI生成,否认民调公正:川普已经准备再次拒绝失败》也曾进行过辟谣。

        

由此不难看出,川普的竞选团队已经把AI深度伪造当作一种进可攻、退可守的工具,成为了其竞选宣传中的一个重要组成部分

        

当然,使用AI工具生成虚假内容并非右翼的专利,一些川普的反对者也经常利用AI工具生成一系列的伪造内容来攻击川普,前述那张马斯克和川普亲密互动的图片就是典型例子。双方互有攻守,有时令人真假难辨,这也给普通的社交媒体用户制造了一重新难题。

 

关于AI深度伪造立法已经开始  实施仍需时间

        

不仅是媒体和学界一直对相关技术在影响选举方面的滥用表示担忧,美国国会的议员们也发起了多项与AI生成的虚假信息有关的立法进程。在美国国会网站上搜索关键词“Deepfake”,就可以看到一系列与这类信息有关的立法行动。

      

640 (3)
目前进行中的与AI深度伪造虚假信息有关的立法

        

不过,这些立法大多还停留在比较早期阶段,距离投票和签署还有很长的距离。目前,到11月的美国大选只有两个月时间了,指望这些仍在冗长立法进程中的法案发挥作用已经来不及,不过,以下这些方法可以帮助大家识别AI深度伪造的虚假信息。

        

辨别AI生成的深度伪造信息  可以使用以下四招

        

随着AI技术日趋成熟,伪造的图片或音视频质量在不断提高,成本也在不断下降。比如想要使用X平台的AI工具Grok来生成深度伪造图片,只需要花8美元,购买X的蓝标会员即可。

        

大量AI生成的影像内容,我们应该如何识别呢?    

        

回归常识

        

这是分辨深度伪造以及虚假信息的一个基本技巧,也就是说当你看到一张图片超出了常识性的认知,那么在转发分享前,就应当怀疑其真实性。

        

比如下面这张利用X平台的AI工具Grok生成的米老鼠,拿着烟和酒,还带着MAGA帽子,和大家认知中米老鼠活泼可爱的形象有很大区别,这时就应该怀疑这张图片并非出自米老鼠的版权方迪士尼,再结合第三点我们分享的AI图片鉴别工具,很容易就能识别出来了。

       

5

             

注意细节

        

部分AI生成的图片中,往往存在一些现实中不可能存在的瑕疵,这时就可以关注图片的细节,来寻找问题。

        

比如下面这张AI生成的罗马教宗图片就有三处明显的瑕疵。1. 他的眼镜变形,与脸颊、眼睛和阴影融为一体;2. 他的十字架也只有一根链子;手3. 他拿着保温杯的手看不清手指。这些微小的细节能帮助你识别出这是一张用AI生成的图片。

        

2
图片事实核查来源:美联社

        

麻省理工学院的媒体实验室(MIT Media Lab)总结了从技术层面辨别AI深度伪造图片和视频的一些技巧:

        

  • 注意面部。深度伪造的高端操作几乎都是面部改造。

  • 注意脸颊和额头。皮肤看起来是太光滑还是太皱?皮肤的老化程度是否与头发和眼睛的老化程度相似?深度伪造可能在某些方面不协调。

  • 注意眼睛和眉毛。阴影是否出现在您期望的位置?深度伪造可能无法完全表现场景的自然物理特性。

  • 注意眼镜。是否有眩光?眩光是否太强?人物移动时眩光的角度是否会发生变化?同样,深度伪造可能无法完全表现自然光的物理特性。

  • 注意面部是否有毛发。面部毛发看起来真实吗?深度伪造可能会添加或去除胡子、鬓角或胡须,也可能无法使面部毛发的变化完全自然。    

  • 注意面部的痣。痣看起来真实吗?

  • 注意眨眼。眨眼次数是否足够或过多?

  • 注意嘴唇的动作。有些深度伪造是以唇语同步为基础的。唇部动作看起来自然吗?

        

如果你想测试一下自己的鉴别能力,也可以去下面这个网址进行一个小测验,锻炼一下自己的辨别能力,https://www.realornotquiz.com/

       

使用鉴定工具辅助辨别

        

对于一些细节上难以分辨的图片,还可以用辅助鉴定工具来进行分辨。比如下图这张泰勒·斯威夫特粉丝支持川普的图片,似乎没有什么明显的瑕疵。   

        

但如果把这张图片上传到isitai.com这一鉴定平台,很快就能判定这是一张AI生成的图片。

 

640 (4)      

        

同样,将前文提到的两张AI伪造的图片进行上传后,该网站也给出了“AI生成”这一判定信息。

 

640 (5)

640 (6)

                                         

用户登录isitai.com后,可以先进行注册,之后就可以使用了。网站目前提供免费服务中,每个月可以为15张图片进行鉴定服务,对于大部分用户来说已经足够了。

        

除此之外,现在还有其他一些AI图片在线检测网站,比如主要供机构媒体使用的TruthMedia.org,能检测文字、图片和视频的hivemoderation,以及huggingface。多平台交叉对比,可以获得更可靠的反馈。

        

查找来源

        

最后,作为信息的消费者,核实信息来源非常重要。当你看到一张群里或社交媒体平台上看到的图片时,首先应该思考它的来源是哪里。必要时,可以在谷歌首页,直接使用图片搜索功能,来追根溯源

        

还是用马斯克发布的那张图片来测试,点击谷歌的图片搜索功能,并将该图上传后,接下来的页面中,就能看到这张图片的来源,即红色箭头所指——马斯克的一条推文。    

       

640 (7)        

确定了图片来源,有助于我们辨别真伪。如果是来自严肃媒体的文章或账号,一般都会给出图片的原始出处,若是由AI生成的,也会进行标注。而如果是像马斯克或者川普这样经常造谣的人发布的,那么对其发布图片的真实性就应当打一个问号了。

 

参考资料:

https://apnews.com/article/artificial-intelligence-deepfakes-congress-biden-7026e6223c64a042bd434b11c211b753

          

https://www.realornotquiz.com/

          

https://apnews.com/article/one-tech-tip-spotting-deepfakes-ai-8f7403c7e5a738488d74cf2326382d8c

          

https://www.theverge.com/2024/8/14/24220173/xai-grok-image-generator-misinformation-offensive-imges

          

https://www.media.mit.edu/projects/detect-fakes/overview/

Leave a Reply

Your email address will not be published. Required fields are marked *