拜登音频深度伪造令专家在大选前感到警惕

(SeaPRwire) –   近期在网上流传的一段美国总统乔·拜登的语音深度伪造最让全球反假信息专家感到惊讶。

在那段电话留言中,一个声音被修改得像拜登,敦促新罕布什尔州选民不要在周二的民主党初选中投票。“把你的票留到11月的大选,”留言说。它还使用了拜登的一个标志性短语:“真是一堆胡说八道。”事实上,拜登本人不参加新罕布什尔州的这场选举——而参加初选也不会影响11月大选的参与。

许多人警告说,新的人工智能视频和图像生成器今年将被用于政治目的,而近半数国家的代表在选举中面临选择。但专家现在最担心的是语音深度伪造。它们容易编辑,成本低,但很难追踪来源。如果把一个令人信服的电话留言与选民登记数据库结合起来,坏人就拥有了一个强大的武器,即使是最先进的选举系统也难以应对,研究人员说。

“政治深度伪造时刻到来了,”公民倡导思想坦克Public Citizen的主席罗伯特·韦斯曼说。他呼吁立法者制定保护措施,禁止使用伪造的语音和视频记录,以避免“选举混乱。”

这段伪造的拜登留言发生在越来越多的美国政治活动使用AI软件大规模联系选民的同时——以及投资者正向声音克隆初创公司投资。周一,当深度伪造的电话留言在传播时,声音复制初创公司ElevenLabs宣布完成新一轮融资,公司估值达到11亿美元。

去年,斯洛伐克议会选举前夕,社交媒体上也传播过语音深度伪造,其中一段片段中,党领导人米哈尔·西梅察似乎在讨论购买选票的计划。但政治使用视频和语音深度伪造目前还很有限。

这段拜登留言确切是如何生成的还不清楚。新罕布什尔州检察长周一开始调查这通电话。但追踪伪造语音到其源头将特别困难,因为它是通过电话而不是网络传播的,根据波士顿大学新闻与新兴媒体研究助理教授琼·多诺万的说法。通过电话发送的语音消息没有网络上的数字痕迹。

“这表明下一个阴谋诡计的范式,”多诺万说。

这段伪造的拜登片段之所以让反假信息研究人员和选举官员特别担忧,还有一个原因:坏人不仅使用深度伪造来影响公众观点,还试图阻止选民来投票。

“即使这样的误导信息只影响几百或几千张选票,在结果和结果来看,它也可能很重要,”西北大学教授尼克·迪亚科波洛斯说。他曾研究过操纵语音和选举。

美国联邦选举委员会已经采取一些小步骤来监管政治深度伪造,但它还没有制止帮助生成它们的技术。一些州提出了自己的法律来遏制深度伪造。

选举官员正在进行培训演习,为可能出现的深度伪造浪潮做准备。去年8月,约100名联邦和州官员在科罗拉多州集会,探讨如何最好应对一个假设性的包含错误选举信息的假视频。深度伪造也是亚利桑那州12月一个演习场景的重点,官员模拟了一段伪造的亚德里安·丰特斯秘书长视频来传播不准确信息。

与此同时,深度伪造检测工具仍处于起步阶段,效果不确定。

例如,周一ElevenLabs自己的检测工具表明,这段拜登电话可能不是使用克隆软件制作的——尽管深度伪造检测初创公司Clarity表示,它有80%以上的可能性是深度伪造。