本文系作者原创,授权“美国华人杂谈”独家发布。转载需征求许可,规范署名(公号名/ID/作者),违者必究
近两年随着AI技术突飞猛进,今年美国大选中AI技术所带来的影响已经引发了各方的关注,其中AI技术生成的虚假信息更成为了一个不容忽视的问题。
当前,学界、政界和媒体已经统一使用一个专有名词来专门指代AI技术工具所生成的虚假信息,这些都被统称为“Deepfake”,中文直译为深度伪造。
本文将通过马斯克刚刚发布的一则“Deepfake”信息,向大家介绍识别这类虚假信息的有效方法。
马斯克又搞事 发布AI伪造图攻击贺锦丽
9月2日是美国的公众假日劳动节,不过X平台(原推特)的所有者马斯克依然活跃在平台上,还发布了一张攻击美国副总统贺锦丽的AI伪造图。
马斯克的这张照片将贺锦丽与共产主义者直接联系在了一起,暗示其当选后美国的政治走向。马斯克的这一举动引来了广泛的批评,不仅因为他利用AI深度伪造虚假信息来攻击政治对手,更因为他自己的X平台本身已经制订了关于Deepfake信息的管理政策,作为平台的老板,却堂而皇之地违反规则。
马斯克的举动引来了一些左翼用户的回击,下图就是一名用户同样使用AI工具生成的马斯克与川普亲密互动的Deepfake图片,影射两位独裁者之间亲密无间的关系。
AI深度伪造假图屡次出现 部分内容真假难辨
围绕2024年美国大选的深度伪造信息已经多次出现。去年年底,佛罗里达州长德桑蒂斯在竞选广告中,就曾使用伪造的川普照片和声音来攻击对手。他的团队用AI生成了川普亲吻和拥抱福奇医生的图片,试图利用右翼人群对福奇医生的厌恶来攻击川普。
今年以来,川普团队频繁使用AI深度伪造的内容来为自己造势。两周前我们曾辟谣过,川普支持者生成了一系列泰勒·斯威夫特及其粉丝支持川普的图片,而川普本人也转发了这些虚假图片。
更早之前,一组非裔美国人支持川普的假图也曾在社交媒体上广泛传播,甚至部分中文自媒体还用这些图片来攻击主流媒体。对此我们也曾在“选举舞弊”是虚假指控,但AI将对2024大选带来真切冲击一文中进行过核查。
不仅用假图片造势,他们还污蔑对手的真实照片是AI伪造的。8月初,川普团队就造谣称贺锦丽在底特律机场的竞选活动中,观众是通过AI工具添加上去的。我们之前的文章《声称贺锦丽集会照片是AI生成,否认民调公正:川普已经准备再次拒绝失败》也曾进行过辟谣。
由此不难看出,川普的竞选团队已经把AI深度伪造当作一种进可攻、退可守的工具,成为了其竞选宣传中的一个重要组成部分。
当然,使用AI工具生成虚假内容并非右翼的专利,一些川普的反对者也经常利用AI工具生成一系列的伪造内容来攻击川普,前述那张马斯克和川普亲密互动的图片就是典型例子。双方互有攻守,有时令人真假难辨,这也给普通的社交媒体用户制造了一重新难题。
关于AI深度伪造立法已经开始 实施仍需时间
不仅是媒体和学界一直对相关技术在影响选举方面的滥用表示担忧,美国国会的议员们也发起了多项与AI生成的虚假信息有关的立法进程。在美国国会网站上搜索关键词“Deepfake”,就可以看到一系列与这类信息有关的立法行动。
不过,这些立法大多还停留在比较早期阶段,距离投票和签署还有很长的距离。目前,到11月的美国大选只有两个月时间了,指望这些仍在冗长立法进程中的法案发挥作用已经来不及,不过,以下这些方法可以帮助大家识别AI深度伪造的虚假信息。
辨别AI生成的深度伪造信息 可以使用以下四招
随着AI技术日趋成熟,伪造的图片或音视频质量在不断提高,成本也在不断下降。比如想要使用X平台的AI工具Grok来生成深度伪造图片,只需要花8美元,购买X的蓝标会员即可。
大量AI生成的影像内容,我们应该如何识别呢?
回归常识
这是分辨深度伪造以及虚假信息的一个基本技巧,也就是说当你看到一张图片超出了常识性的认知,那么在转发分享前,就应当怀疑其真实性。
比如下面这张利用X平台的AI工具Grok生成的米老鼠,拿着烟和酒,还带着MAGA帽子,和大家认知中米老鼠活泼可爱的形象有很大区别,这时就应该怀疑这张图片并非出自米老鼠的版权方迪士尼,再结合第三点我们分享的AI图片鉴别工具,很容易就能识别出来了。
注意细节
部分AI生成的图片中,往往存在一些现实中不可能存在的瑕疵,这时就可以关注图片的细节,来寻找问题。
比如下面这张AI生成的罗马教宗图片就有三处明显的瑕疵。1. 他的眼镜变形,与脸颊、眼睛和阴影融为一体;2. 他的十字架也只有一根链子;手3. 他拿着保温杯的手看不清手指。这些微小的细节能帮助你识别出这是一张用AI生成的图片。
麻省理工学院的媒体实验室(MIT Media Lab)总结了从技术层面辨别AI深度伪造图片和视频的一些技巧:
注意面部。深度伪造的高端操作几乎都是面部改造。
注意脸颊和额头。皮肤看起来是太光滑还是太皱?皮肤的老化程度是否与头发和眼睛的老化程度相似?深度伪造可能在某些方面不协调。
注意眼睛和眉毛。阴影是否出现在您期望的位置?深度伪造可能无法完全表现场景的自然物理特性。
注意眼镜。是否有眩光?眩光是否太强?人物移动时眩光的角度是否会发生变化?同样,深度伪造可能无法完全表现自然光的物理特性。
注意面部是否有毛发。面部毛发看起来真实吗?深度伪造可能会添加或去除胡子、鬓角或胡须,也可能无法使面部毛发的变化完全自然。
注意面部的痣。痣看起来真实吗?
注意眨眼。眨眼次数是否足够或过多?
注意嘴唇的动作。有些深度伪造是以唇语同步为基础的。唇部动作看起来自然吗?
如果你想测试一下自己的鉴别能力,也可以去下面这个网址进行一个小测验,锻炼一下自己的辨别能力,https://www.realornotquiz.com/
使用鉴定工具辅助辨别
对于一些细节上难以分辨的图片,还可以用辅助鉴定工具来进行分辨。比如下图这张泰勒·斯威夫特粉丝支持川普的图片,似乎没有什么明显的瑕疵。
但如果把这张图片上传到isitai.com这一鉴定平台,很快就能判定这是一张AI生成的图片。
同样,将前文提到的两张AI伪造的图片进行上传后,该网站也给出了“AI生成”这一判定信息。
用户登录isitai.com后,可以先进行注册,之后就可以使用了。网站目前提供免费服务中,每个月可以为15张图片进行鉴定服务,对于大部分用户来说已经足够了。
除此之外,现在还有其他一些AI图片在线检测网站,比如主要供机构媒体使用的TruthMedia.org,能检测文字、图片和视频的hivemoderation,以及huggingface。多平台交叉对比,可以获得更可靠的反馈。
查找来源
最后,作为信息的消费者,核实信息来源非常重要。当你看到一张群里或社交媒体平台上看到的图片时,首先应该思考它的来源是哪里。必要时,可以在谷歌首页,直接使用图片搜索功能,来追根溯源。
还是用马斯克发布的那张图片来测试,点击谷歌的图片搜索功能,并将该图上传后,接下来的页面中,就能看到这张图片的来源,即红色箭头所指——马斯克的一条推文。
确定了图片来源,有助于我们辨别真伪。如果是来自严肃媒体的文章或账号,一般都会给出图片的原始出处,若是由AI生成的,也会进行标注。而如果是像马斯克或者川普这样经常造谣的人发布的,那么对其发布图片的真实性就应当打一个问号了。
https://www.realornotquiz.com/
https://apnews.com/article/one-tech-tip-spotting-deepfakes-ai-8f7403c7e5a738488d74cf2326382d8c
https://www.theverge.com/2024/8/14/24220173/xai-grok-image-generator-misinformation-offensive-imges