我们需要一场全球运动来禁止超级智能AI

(SeaPRwire) –   上周，一个由科学、宗教和政治领袖组成的联盟呼吁在全球范围内禁止开发超级智能：即在所有认知任务上都超越人类的AI。我是早期签署人之一，同时签署的还有诺贝尔奖获得者，如杰弗里·辛顿；全球被引用次数最多的AI科学家Yoshua Bengio；美国前总统唐纳德·特朗普的顾问史蒂夫·班农；前参谋长联席会议主席迈克·马伦；以及哈里王子和萨塞克斯公爵夫人梅根。

是什么将这一运动聚集在一起？是紧迫的、普遍存在的危险。科技公司正投入数十亿美元，力求尽快达到超级智能。没有人知道如何控制远比任何人类都更有能力的AI，但我们正越来越接近开发它们，许多专家预计按照目前的速度，超级智能将在未来5年内出现。

这就是为什么领先的AI科学家发出警告，开发超级智能可能导致人类灭绝。

禁止超级智能的必要性

一旦我们开发出在所有领域都远比我们更有能力的机器，我们很可能将任由控制它们的人或国家摆布。或者，我们将任由超级智能机器本身摆布，因为目前没有任何国家、任何公司、任何个人知道如何控制它们。理论上，一个超级智能AI会追求自己的目标，如果这些目标与维持人类生命不兼容，我们就会被消灭。

更糟糕的是，AI开发者并不理解当前的强大AI系统是如何运作的。与按照精确人类规范设计的桥梁或发电厂不同，今天的AI系统是通过其创造者也无法解释的过程，从庞大的数据集中自主学习而成的。甚至Anthropic首席执行官Dario Amodei也承认，我们只“了解它们运作方式的3%”。

尽管存在这种危险，超级智能仍然是领先AI公司（OpenAI、Anthropic、Google DeepMind、Meta、xAI、DeepSeek）的终极目标。鉴于这些公司市值飙升，它们不会自行停止。

全球各国政府必须在为时已晚之前介入。然而，国际形势并不乐观。我们生活在一个地缘政治紧张局势加剧的时代，美国和中国之间充满了竞争。各国正争相投入数十亿美元建设数据中心以支持AI发展，而开发和部署危险AI系统的监管却比开设一家新餐馆或建造一栋房屋还要少。

如何禁止超级智能

在这种环境下，国际社会有可能禁止超级智能的开发吗？

是的，因为我们以前也实现过这样的全球禁令。

1985年，在英国南极调查局三位科学家的努力下，全世界了解到南极洲上空存在一个臭氧层空洞。造成这一大气污染的罪魁祸首是氯氟烃（CFCs），一种普遍存在的工业化学品。除非采取措施，否则空洞会持续扩大，数百万人会因为缺乏紫外线防护而患上皮肤癌或失明。

结果，数以百万计的人民动员起来。科学家们用彩色卫星图片和对健康后果的清晰讨论，使威胁变得具体。非政府组织协调抵制大型品牌，并引导成千上万的关注市民写抗议信。全球各地的学校开展了教育项目，联合国认可了公众意识宣传活动。

1987年，仅仅在臭氧层空洞公之于众两年后，所有现有国家签署了《蒙特利尔议定书》。该议定书在冷战期间签署，表明即使在地缘政治紧张局势中，也可能迅速达成决定性的国际协议。

一个关键因素是臭氧层空洞危及世界上几乎所有人。它不是某些人强加给另一些人的外部性，而是所有人都会遭受其害。超级智能也构成类似的普遍威胁：失去对AI的控制意味着即使是开发者也无法幸免于其危险。因此，超级智能带来的灭绝风险有可能超越所有分歧。它能团结跨越政党、宗教、国家和意识形态的人们。没有人希望他们的生命、家庭和世界被毁灭。

当人们了解到超级智能及其带来的灭绝风险时，许多人看到了危险并开始为此担忧。就像臭氧层空洞事件一样，这种担忧必须被转化为公民参与，建立一个与各国政府合作，使禁止超级智能成为现实的全球运动。

不幸的是，大多数立法者仍然不了解超级智能的威胁及其紧迫性，而AI公司现在正在部署强大的游说力量来压制任何监管AI的尝试。

对抗这种庞大游说努力的最佳方式是让立法者听到他们的选民对超级智能的真实想法。立法者常常会发现，他们的大多数选民希望他们对“人类灭绝”说“不”，并对一个“人类生存和繁荣的未来”说“是”。

在一个政治参与度下降和党派偏见加剧的时代，禁止超级智能是一个常识性问题，它能团结跨越政治光谱的人们。

正如臭氧层损耗一样，所有人都将因超级智能的开发而蒙受损失。我们知道避免这种命运的运动是可以建立起来的。

唯一的问题是：我们能足够快地建立起来吗？