如何在晚于控制人工智能

(SeaPRwire) –   ChatGPT发布已经过去16个月,但现在看来仿佛古老的AI历史。数以十亿美元计的公共和私人资金正在倾注到AI领域。数以千计的AI产品已经面世,包括本周新推出的。从学生到科学家,每个人都在使用这些大规模语言模型。我们的世界,特别是AI领域,已经发生了明显变化。

但是,人类水平的AI,或者超人级AI的真正奖赏还没有实现。这样的突破意味着一个AI可以完成大多数经济生产性工作,与他人交流,进行科学研究,建立和维护社交网络,进行政治活动以及进行现代战争。今天所有这些任务的主要限制在于认知能力。消除这个限制将会产生世界性影响。然而,全球领先AI实验室的许多人预计,在本十年结束前,这种技术可能成为现实。

这将为人类带来巨大利好。但是,如果我们无法控制它,AI也可能极为危险。无法控制的AI可能会入侵支撑世界许多部分的在线系统,并利用它们实现自己的目标。它可能会获取我们社交媒体账户的访问权限,针对大量人员定制操纵信息。更糟糕的是,控制核武器的军事人员可能会被AI操纵而泄露自己的身份验证信息,这将对人类造成极大威胁。

在这种情况下采取一些措施加强世界防御在线不良行为者的能力,将是一种建设性的举动。但是,当AI比我们更擅长说服人时,没有已知的防御方法。

出于这些原因,许多AI安全研究人员,比如OpenAI、Google DeepMind、Anthropic以及安全导向的非营利组织,已经放弃限制未来AI行为的想法,转而专注于开发“一致”或天然安全的AI。一致AI可能有能力消灭人类,但它不应该想要这样做。

一致AI存在很大问题。首先,从技术上实现一致性仍是一个未解决的科学问题。最近,一些在超人级AI一致性问题上工作的顶级研究人员表示不满,这并不令人信心。其次,我们不清楚超级智能AI将会一致到什么目标。如果是某些学术价值观,比如功利主义,我们可能很快就会发现,大多数人的真实价值观实际上并不匹配这些理论,之后这个无法阻止的超级智能就可能永远地违背大多数人的意愿行动。如果一致到人们的真实意图,我们需要找到一种方法整合这些不同的意图。理想情况下的解决方案,比如联合国理事会或AI驱动的调解,在可能性范围内,但是如果超级智能的绝对权力集中在很少几位政治家或CEO手中,那将肯定是对其他所有人类来说不可接受的直接威胁。

解除时间定时炸弹

如果我们无法找到一种方法至少保证人类免受灭绝的威胁,最好也能免受一致性乌托邦的威胁,那么在我们解决安全问题前,不应该创建可能无法控制的人类水平或超级智能AI。这种推迟人类水平或超级智能AI的解决方案,作为代价是AI的许多承诺,如治愈疾病和创造巨大经济增长,需要等待。

这似乎对一些人来说是一个极端主义的想法,但是如果AI继续在没有达成满意的一致计划的情况下提高能力,这将是必要的。当AI的能力接近接管水平时,唯一现实的选择就是要求实验室在政府的强制下暂停开发。否则将是自杀行为。

暂停AI可能不如一些人描述的那么困难。目前,只有相对少数的大公司才有能力进行领先的训练运行,这意味着暂停的执行在短期内主要取决于政治意愿。但是,在长期来看,硬件和算法改进意味着暂停可能被视为难以执行。不同国家之间需要通过条约等方式进行执行,同样国内也需要通过严格的硬件控制等措施进行执行。

与此同时,科学家需要更好地了解风险。尽管存在分歧,但科学界尚未形成共识。科学家应该明确他们达成的一致观点,并说明分歧点在哪里以及为什么不同,在新的“气候变化问题的政府间气候变化专门委员会”中,这应该发展成为AI风险的。主流科学杂志应该更加开放地接受存在风险研究,即使它看起来很具有假设性。未来不提供数据点,但关注前瞻同样对AI和气候变化都很重要。

政府在AI如何展开中也有重要作用。首先要正式承认AI的存在风险,如已被。、.和.所做的,并建立。政府还应制定最重要的可想象情况下该采取什么行动以及如何处理AI带来的许多非存在性问题,如大规模失业、不断加剧的不平等和能源消耗。政府应公开其AGI战略,允许科学界、行业和公众进行评估。

主要AI国家在双年AI安全峰会上开展建设性讨论,包括5月21日至22日举行的峰会,这是一个很大的进步。但是,这个过程需要警惕和扩大。与所有28个邀请国家共同探讨AI的存在风险和表达共同关注,已经是一个重大进步。此外,需要商定一些相对容易的措施,如建立许可制度、模型评估、跟踪AI硬件、扩大AI实验室的责任以及从训练中排除受版权保护的内容。需要建立一个机构监督执行。

预测科学进步本质上很困难。然而,超级人工智能很可能比任何其他事物在这个世纪对我们文明产生更大影响。简单等待时间定时炸弹爆炸并不是一个可行的策略。我们应该尽可能明智地利用我们拥有的时间。