为什么全球各地的抗议者要求暂停AI开发

(SeaPRwire) –   在世界各地举行的,抗议者组成的一个名为“暂停AI”的小但不断壮大的运动要求世界各国政府监管AI公司,并冻结新型前沿人工智能模型的开发。他们表示,只有在公司同意让这些模型受监管的情况下,这些模型的开发才应该继续。周一,抗议活动在包括美国、英国、巴西、德国、澳大利亚和挪威在内的13个不同国家举行。

在伦敦,约20名抗议者在英国科学、创新和技术部门外高呼口号,如“停止竞赛,这不安全”和“谁的未来?我们的未来”,希望吸引政策制定者的注意。抗议者表示,他们的目标是要求政府监管开发前沿人工智能模型的公司,包括OpenAI的Chat GPT。他们表示,这些公司在确保其人工智能模型安全足以面世前没有采取足够的预防措施。

“[人工智能公司]一次又一次地证明……通过对这些公司工人的待遇方式,通过直接将他人的工作抄袭到自己的模型中,他们已经证明自己无法被信任,”牛津大学本科生Gideon Futerman在抗议活动上发表演说时说。

一名抗议者Tara Steele是一名兼职写作人,主要撰写博客和SEO内容,她表示已经看到这项技术影响到自己的生计。“自从ChatGPT问世以来, freelance工作的需求明显下降,”她说。“我本人真的很喜欢写作……这真的很难过。”

她表示主要抗议的原因是担心未来前沿人工智能模型可能会带来更危险的后果。“我们有一大批高素质、知识渊博的专家,图灵奖获得者和高引用率的人工智能研究人员,以及人工智能公司自己的CEO都在警告[人工智能可能极为危险]。”(图灵奖是一项年度奖项,奖励给对计算机科学做出重大贡献的计算机科学家,有时被视为计算机科学领域的“诺贝尔奖”。)

她特别担心越来越多的专家警告说,如果无法控制人工智能系统,我们可能会极大低估更强大系统的行为方式。视人工智能系统与人类生活的整合程度,它们可能会造成破坏,并控制危险武器系统,这让许多专家担心可能会发生。“那些警告没有传达给普通公众,但他们需要知道,”她说。

目前,机器学习专家对人工智能技术进一步发展的风险程度存在一定分歧。深度学习这一类型机器学习技术允许人工智能系统更好地模拟人类大脑决策过程的三位“教父”之中,Geoffrey Hinton和Yoshua Bengio公开表示他们认为这项技术可能会导致人类灭绝。

第三位“教父”Yann LeCun,同时也是Meta的首席人工智能科学家,与其他两位持相反意见。他表示“人工智能将为世界带来很多好处。但人们正在利用这项技术的恐惧,我们面临着误导公众对它产生恐惧的风险。”

另一名暂停AI抗议者Anthony Bailey表示,尽管他理解新人工智能系统可能带来的好处,但他担心技术公司将被激励开发人类很难控制的技术,因为这些技术在商业上也有巨大潜力。“那些在经济上最有价值的就是那些。如果人们没有被说服它是危险的,那就是自然会建立的模块。”