AI时代，如何一眼看穿深度伪造图片

请使用网站Justicepatch.org查看完整文章及更多内容，为防失联，请通过邮件订阅网站，或关注我们的电报频道：https://t.me/piyaoba   

近两年随着AI技术突飞猛进，今年美国大选中AI技术所带来的影响已经引发了各方的关注，其中AI技术生成的虚假信息更成为了一个不容忽视的问题。

当前，学界、政界和媒体已经统一使用一个专有名词来专门指代AI技术工具所生成的虚假信息，这些都被统称为“Deepfake”，中文直译为深度伪造。

本文将通过马斯克刚刚发布的一则“Deepfake”信息，向大家介绍识别这类虚假信息的有效方法。

马斯克又搞事  发布AI伪造图攻击贺锦丽

9月2日是美国的公众假日劳动节，不过X平台（原推特）的所有者马斯克依然活跃在平台上，还发布了一张攻击美国副总统贺锦丽的AI伪造图。       

马斯克的这张照片将贺锦丽与共产主义者直接联系在了一起，暗示其当选后美国的政治走向。马斯克的这一举动引来了广泛的批评，不仅因为他利用AI深度伪造虚假信息来攻击政治对手，更因为他自己的X平台本身已经制订了关于Deepfake信息的管理政策，作为平台的老板，却堂而皇之地违反规则。

马斯克的举动引来了一些左翼用户的回击，下图就是一名用户同样使用AI工具生成的马斯克与川普亲密互动的Deepfake图片，影射两位独裁者之间亲密无间的关系。    

AI深度伪造假图屡次出现 部分内容真假难辨

围绕2024年美国大选的深度伪造信息已经多次出现。去年年底，佛罗里达州长德桑蒂斯在竞选广告中，就曾使用伪造的川普照片和声音来攻击对手。他的团队用AI生成了川普亲吻和拥抱福奇医生的图片，试图利用右翼人群对福奇医生的厌恶来攻击川普。   

德桑蒂斯团队使用AI生成的有关川普与福奇医生的虚假信息

今年以来，川普团队频繁使用AI深度伪造的内容来为自己造势。两周前我们曾辟谣过，川普支持者生成了一系列泰勒·斯威夫特及其粉丝支持川普的图片，而川普本人也转发了这些虚假图片。

更早之前，一组非裔美国人支持川普的假图也曾在社交媒体上广泛传播，甚至部分中文自媒体还用这些图片来攻击主流媒体。对此我们也曾在“选举舞弊”是虚假指控，但AI将对2024大选带来真切冲击一文中进行过核查。       

不仅用假图片造势，他们还污蔑对手的真实照片是AI伪造的。8月初，川普团队就造谣称贺锦丽在底特律机场的竞选活动中，观众是通过AI工具添加上去的。我们之前的文章《声称贺锦丽集会照片是AI生成，否认民调公正：川普已经准备再次拒绝失败》也曾进行过辟谣。

由此不难看出，川普的竞选团队已经把AI深度伪造当作一种进可攻、退可守的工具，成为了其竞选宣传中的一个重要组成部分。

当然，使用AI工具生成虚假内容并非右翼的专利，一些川普的反对者也经常利用AI工具生成一系列的伪造内容来攻击川普，前述那张马斯克和川普亲密互动的图片就是典型例子。双方互有攻守，有时令人真假难辨，这也给普通的社交媒体用户制造了一重新难题。

关于AI深度伪造立法已经开始  实施仍需时间

不仅是媒体和学界一直对相关技术在影响选举方面的滥用表示担忧，美国国会的议员们也发起了多项与AI生成的虚假信息有关的立法进程。在美国国会网站上搜索关键词“Deepfake”，就可以看到一系列与这类信息有关的立法行动。

目前进行中的与AI深度伪造虚假信息有关的立法

不过，这些立法大多还停留在比较早期阶段，距离投票和签署还有很长的距离。目前，到11月的美国大选只有两个月时间了，指望这些仍在冗长立法进程中的法案发挥作用已经来不及，不过，以下这些方法可以帮助大家识别AI深度伪造的虚假信息。

辨别AI生成的深度伪造信息  可以使用以下四招

随着AI技术日趋成熟，伪造的图片或音视频质量在不断提高，成本也在不断下降。比如想要使用X平台的AI工具Grok来生成深度伪造图片，只需要花8美元，购买X的蓝标会员即可。

大量AI生成的影像内容，我们应该如何识别呢？    

回归常识

这是分辨深度伪造以及虚假信息的一个基本技巧，也就是说当你看到一张图片超出了常识性的认知，那么在转发分享前，就应当怀疑其真实性。

比如下面这张利用X平台的AI工具Grok生成的米老鼠，拿着烟和酒，还带着MAGA帽子，和大家认知中米老鼠活泼可爱的形象有很大区别，这时就应该怀疑这张图片并非出自米老鼠的版权方迪士尼，再结合第三点我们分享的AI图片鉴别工具，很容易就能识别出来了。      

注意细节

部分AI生成的图片中，往往存在一些现实中不可能存在的瑕疵，这时就可以关注图片的细节，来寻找问题。

比如下面这张AI生成的罗马教宗图片就有三处明显的瑕疵。1. 他的眼镜变形，与脸颊、眼睛和阴影融为一体；2. 他的十字架也只有一根链子；手3. 他拿着保温杯的手看不清手指。这些微小的细节能帮助你识别出这是一张用AI生成的图片。

图片事实核查来源：美联社

麻省理工学院的媒体实验室（MIT Media Lab）总结了从技术层面辨别AI深度伪造图片和视频的一些技巧：

• 注意面部。深度伪造的高端操作几乎都是面部改造。

• 注意脸颊和额头。皮肤看起来是太光滑还是太皱？皮肤的老化程度是否与头发和眼睛的老化程度相似？深度伪造可能在某些方面不协调。

• 注意眼睛和眉毛。阴影是否出现在您期望的位置？深度伪造可能无法完全表现场景的自然物理特性。

• 注意眼镜。是否有眩光？眩光是否太强？人物移动时眩光的角度是否会发生变化？同样，深度伪造可能无法完全表现自然光的物理特性。

• 注意面部是否有毛发。面部毛发看起来真实吗？深度伪造可能会添加或去除胡子、鬓角或胡须，也可能无法使面部毛发的变化完全自然。    

• 注意面部的痣。痣看起来真实吗？

• 注意眨眼。眨眼次数是否足够或过多？

• 注意嘴唇的动作。有些深度伪造是以唇语同步为基础的。唇部动作看起来自然吗？

如果你想测试一下自己的鉴别能力，也可以去下面这个网址进行一个小测验，锻炼一下自己的辨别能力，https://www.realornotquiz.com/

使用鉴定工具辅助辨别

对于一些细节上难以分辨的图片，还可以用辅助鉴定工具来进行分辨。比如下图这张泰勒·斯威夫特粉丝支持川普的图片，似乎没有什么明显的瑕疵。  

但如果把这张图片上传到isitai.com这一鉴定平台，很快就能判定这是一张AI生成的图片。

同样，将前文提到的两张AI伪造的图片进行上传后，该网站也给出了“AI生成”这一判定信息，

笔者还将一张通过个人手机拍摄的照片上传到了该网站，得出的结果就是人类生成。

用户登录isitai.com后，可以先进行注册，之后就可以使用了。网站目前提供免费服务中，每个月可以为15张图片进行鉴定服务，对于大部分用户来说已经足够了。

除此之外，现在还有其他一些AI图片在线检测网站，比如主要供机构媒体使用的TruthMedia.org，能检测文字、图片和视频的hivemoderation，以及huggingface。多平台交叉对比，可以获得更可靠的反馈。

查找来源

最后，作为信息的消费者，核实信息来源非常重要。当你看到一张群里或社交媒体平台上看到的图片时，首先应该思考它的来源是哪里。必要时，可以在谷歌首页，直接使用下图红框内的图片搜索功能，来追根溯源。

还是用马斯克发布的那张图片来测试，点击谷歌的图片搜索功能，并将该图上传后，接下来的页面中，就能看到这张图片的来源，即红色箭头所指——马斯克的一条推文。    

确定了图片来源，有助于我们辨别真伪。如果是来自严肃媒体的文章或账号，一般都会给出图片的原始出处，若是由AI生成的，也会进行标注。而如果是像马斯克或者川普这样经常造谣的人发布的，那么对其发布图片的真实性就应当打一个问号了。

关注我们，不再失联

电报频道t.me/piyaoba

查看更多精彩文章，请前往正义补丁网站justicepatch.org

https://apnews.com/article/artificial-intelligence-deepfakes-congress-biden-7026e6223c64a042bd434b11c211b753

https://www.realornotquiz.com/

https://apnews.com/article/one-tech-tip-spotting-deepfakes-ai-8f7403c7e5a738488d74cf2326382d8c

https://www.theverge.com/2024/8/14/24220173/xai-grok-image-generator-misinformation-offensive-imges

https://www.media.mit.edu/projects/detect-fakes/overview/

isitai.com