各州竞相在2024年大选前应对AI伪造

Three voting books in a row each one is more pixelated then the last

(SeaPRwire) –   新墨西哥州务卿Maggie Toulouse Oliver去年在一场选举安全会议上有了一个“哦,这正在发生”的时刻。人工智能生成的误导性信息和深度假象可能对今年全国选举的潜在影响是会议上“最热门的话题”,Toulouse Oliver表示,选举管理人员之间展开的每个可怕情景都在不断发生。作为该州最高选举官员,她意识到为今年投票做准备已经没有时间了。“那真的是我的唤醒,”她说。

部分得益于那次顿悟,新墨西哥州上月要求政治运动在他们的广告中披露人工智能的使用情况,并将故意欺骗选民的人工智能生成内容定为犯罪行为。Toulouse Oliver说,重点是“恶意意图”。“我们意识到第一修正案,我们不想不公平地惩罚人们,”她说。这些新措施将与新推出的公众宣传活动相辅相成,旨在提高选民对人工智能内容的认识,将包括电视、广播、广告牌和数字营销。

Toulouse Oliver的努力是更广泛趋势的一部分。州和地方官员怀疑联邦政府和社交媒体公司在11月选举前不会对人工智能内容施加重要限制,所以他们主动采取行动。根据Voting Rights Lab的分析,39个州立法机关最近推出或通过了超过100项法案,其中包含限制人工智能改动或生成选举误导信息潜在影响的条款。

“2024年是第一个美国总统选举年与此高度的选举相关误导信息和人工智能生成内容快速增长相交汇的年份,”Voting Rights Lab法律和政策副总裁Megan Bellamy说。今年的选举,不仅在美国,全球各地,将成为广泛可用新生成人工智能工具的影响测试案例,这些工具使大规模生产更改内容变得更便宜、更快速和更容易。面临可能的选举相关误导信息洪流,州立法者应对各种方法来保护选民或惩罚那些创建和传播这类内容的人,同时兼顾第一修正案和其他法律保护。由于人工智能内容监管还在起步阶段,专家表示新法律中的一些语言在法律上含糊不清,执行起来可能很难。

“人工智能生成内容…根据我们的选举环境被精心策略性地瞄准可能仍然造成重大损害,”Bellamy说,指出一些州可能比其他州受更大影响。“人工智能生成内容的目的是吸引选民注意,单此可能就会导致混乱和困惑,即使有努力试图缓解损害。”

许多这些法律,像新墨西哥的,侧重于透明度,要求在选举相关内容中披露人工智能使用情况。佛罗里达州立法机关3月通过了类似法案,要求政治广告中注明“部分或全部使用了生成人工智能创作”。这适用于所有内容,包括音频、视频、文本、图像或其他图形。(该法案仍在等待佛罗里达州长Ron DeSantis签字)。

许多法案还试图惩罚那些使用人工智能工具故意传播误导信息的人。威斯康星州长Tony Evers上月签署通过的一项法案,对任何与政治运动有关联的团体未在人工智能生成或改动内容中添加声明的行为处以1000美元罚款,但它不像其他法案那样限制与运动无关的团体传播误导信息。在亚利桑那州,立法者一直在辩论几种方法,包括一项法案允许公职候选人起诉未经同意“数字模仿”的创作者。

对许多州官员来说,去年ChatGPT和其他流行人工智能工具的广泛采用是一个警钟,提示这些程序可能对即将到来的选举产生毁灭性影响。“ChatGPT的重大进步真的让人们以前没有的方式谈论人工智能及其应用的许多方面,以及国家生活的哪些领域特别脆弱,”明尼苏达州务卿Steve Simon说。“人工智能本身不是一个新的独立威胁,但它可以以我们五年前根本没有认真考虑过的方式放大现有威胁。”

2023年春,明尼苏达州成为第一个禁止在选举材料中使用人工智能生成内容的州。新法规禁止在90天内的选举期间传播此类内容,如果目的是损害候选人。它还禁止在未经当事人同意的情况下传播深度假象等人工智能生成内容。在他的努力中,Simon已在州内50个县举办选举安全培训,其中包括应对和教育选民关于人工智能生成内容的重要性。

“我对我们能否中和其影响持谨慎乐观态度,”Simon说。明尼苏达州的新法律“不仅向传播这类内容的人发出警告,也向公众发出警告,这是一个值得关注和注意的问题。”

虽然“误导信息”和“误导信息”这些词在2020年选举后变得政治化,许多保守立法者反射性地反对限制与投票相关的虚假信息传播,但州官员表示,与人工智能生成内容相关的法案获得了两党支持。“很有趣的是,这项立法遇到的阻力很小,”Simon说。

尽管立法如雨后春笋,但州官员表示,他们知道这些努力只是九牛一毛。用几个点击就可以创建通过数百万人浏览的人工智能生成内容,但验证和追踪需要几天或几周。许多官员表示,与立法举措并行,他们投入大量资源开展公众意识活动,旨在提高选民对人工智能生成内容的怀疑态度和应对能力,并提高有关投票流程的准确信息的知名度。

华盛顿州务卿Steve Hobbs表示,他密切关注人工智能生成内容在近年来的显著改进 – 首先是着迷,然后是日益担忧。MIT研究人员创建的理查德·尼克松虚假但令人信服地承认阿波罗登月失败,2022年俄罗斯入侵乌克兰初期虚假的乌克兰总统泽连斯基投降,以及最近一个虚假的乔·拜登在新罕布什尔州告诉选民不要投票的视频。

“我一直看着联邦政府,想‘天哪,我真希望他们能做些什么’,”Hobbs说。“但他们没有。所以我们采取行动。”经过两年的努力,华盛顿州立法机关于去年5月通过法律,要求广告商在与选举相关的材料中披露是否使用了人工智能,并允许被人工智能改动内容攻击的候选人提起损害赔偿诉讼。Hobbs认为这是必要的小步骤,但也指出该法律几乎无法保护国家或外国实体对选举的操纵:“我想做更多的事。”

他们的同行都同意,挑战仍然很大。“我不会假装监管这件事很容易,这是一个全新的领域,”新墨西哥州务卿Toulouse Oliver说,并补充说,她希望至少这些新措施可以帮助在选举季节揭穿最严重的违规者。“我们进入了一个崭新的世界。”

本文由第三方内容提供商提供。SeaPRwire (https://www.seaprwire.com/)对此不作任何保证或陈述。

分类: 头条新闻,日常新闻

SeaPRwire为公司和机构提供全球新闻稿发布,覆盖超过6,500个媒体库、86,000名编辑和记者,以及350万以上终端桌面和手机App。SeaPRwire支持英、日、德、韩、法、俄、印尼、马来、越南、中文等多种语言新闻稿发布。