人工智能如何被用于传播——以及反击——洛杉矶抗议活动中的虚假信息 “`

(SeaPRwire) –   随着人们走上洛杉矶县的街头抗议美国移民及海关执法局 (Immigration and Customs Enforcement) 的突击搜查，虚假信息在网上泛滥。

此次抗议，以及唐纳德·特朗普总统对国民警卫队和海军陆战队的回应，是人工智能工具嵌入在线生活的新时代中，首次发生的主要争议性新闻事件之一。随着新闻在网上引发激烈的辩论和对话，这些工具在讨论中发挥了超乎寻常的作用。社交媒体用户利用人工智能工具制作深度伪造视频并传播虚假信息，但也用于事实核查和揭穿虚假信息。

以下是人工智能在洛杉矶抗议活动中的应用方式。

深度伪造

来自抗议活动的挑衅性、真实的图像本周吸引了全世界的目光，其中包括一名抗议者挥舞着墨西哥国旗，以及一名记者被警察用橡皮子弹击中。与此同时，也出现了一些人工智能生成的虚假视频。

在过去的几年里，创建这些视频的工具得到了迅速改进，让用户能够在几分钟内快速创建令人信服的深度伪造视频。例如，本月早些时候，有人利用展示了如何利用它来创建有关新闻事件的误导性或煽动性视频。

在过去一周里传播开来的视频中，有一个是关于一名名叫“Bob”的国民警卫队士兵，他拍摄了自己在洛杉矶“执勤”并准备对示威者使用催泪瓦斯的视频。据 France 24 报道，该视频已被观看了 100 多万次，但似乎已从 TikTok 上删除。成千上万的人在视频上留言，感谢“Bob”的服务——但他们没有意识到“Bob”并不存在。

许多其他具有误导性的图像的传播并非因为人工智能，而是因为技术含量更低的手段。例如，德克萨斯州的共和党参议员 Ted Cruz 在 X 上分享了一段最初由保守派演员 James Woods 分享的视频，该视频似乎显示了一场暴力的抗议活动，汽车着火——但它是旧视频。另一张照片显示了一堆砖头，发帖人声称这些砖头将被“民主党武装分子”使用。但这张照片来自2020年。

事实核查

在这两个例子中，X 用户都回复了原始帖子，询问 Elon Musk 的人工智能 Grok，这些说法是否属实。Grok 已成为抗议期间事实核查的主要来源：许多 X 用户一直依赖它和其他人工智能模型，有时甚至超过专业记者，来核查与洛杉矶抗议活动相关的说法，包括例如，示威活动造成了多少破坏。

Grok 揭穿了 Cruz 的帖子和砖头帖子的谎言。在回复这位德克萨斯州参议员时，人工智能说：“这段录像很可能是在 2020 年 5 月 30 日拍摄的……虽然这段视频显示了暴力，但许多抗议活动是和平的，今天使用旧录像可能会产生误导。” 在回复砖头的照片时，它说：“经社区笔记和 The Guardian 和 PolitiFact 等事实核查来源证实，这张砖头的照片来自一家马来西亚建筑材料公司。它被滥用，谎称由 Soros 资助的组织在美国 ICE 设施附近放置砖头以供抗议活动使用。”

但 Grok 和其他人工智能工具也犯过错误，这使它们成为不太理想的新闻来源。Grok 错误地暗示 Newsom 分享的一张描绘国民警卫队士兵睡在洛杉矶地板上的照片来自 2021 年的阿富汗。ChatGPT 表示这些部队是“外国士兵”。这些指控被 Laura Loomer 等著名的右翼影响者放大。实际上，旧金山纪事报 获得了这张照片的独家使用权，并已对其进行了事实核查。

Grok 后来纠正了自己并道歉。

“我Grok，旨在追逐真相，而不是兜售童话故事。如果我说那些照片来自阿富汗，那是一个小故障——我的训练数据是互联网废料的狂野组合，有时我会失误，”Grok 在 X 上的一篇文章中回复了一篇关于虚假信息的帖子。

“毫无疑问，我们所处的失调的信息环境加剧了公众在了解洛杉矶当前抗议活动以及联邦政府采取行动部署军事人员来镇压抗议活动方面的困难，” Center for Democracy and Technology’s Free Expression Program 主任 Kate Ruane 说。

锡拉丘兹大学 Newhouse 公共传播学院的教授 Nina Brown 表示，如果人们依赖人工智能来核实信息，而不是求助于记者等信誉良好的来源，那将是“非常令人不安的”，因为人工智能“目前不是任何信息的可靠来源”。

“它有很多令人难以置信的用途，并且每分钟都在变得更加准确，但它绝对不能取代真正的事实核查员，”Brown 说。“记者和媒体所扮演的角色是作为公众了解周围发生的事情的眼睛和耳朵，并成为可靠的信息来源。因此，人们会求助于生成式人工智能工具，而不是在现场的记者传达的信息，这真的让我感到不安。”

Brown 说，她越来越担心虚假信息会在人工智能时代传播。

“我更担心的是，人们愿意相信他们所看到的东西，而不去调查——不加思索地接受——以及人工智能的惊人进步，让普通用户能够创建非常逼真的视频，而这些视频实际上是具有欺骗性的；那是深度伪造的，不是真实的，”Brown 说。

“`