美国和英国宣布合作对人工智能模型进行安全测试

(SeaPRwire) –   英国和美国周一宣布两国将共同努力对最强大的人工智能模型进行安全测试。英国科学、创新和技术大臣米歇尔·多内兰和美国商务部长吉娜·雷蒙多签署的一份协议概述了两国政府合作的计划。

多内兰周一在华盛顿特区英国大使馆接受《时代》采访时称，“我认为[该协议]标志着我们在人工智能安全方面旅程的一个新篇章，我们与美国政府密切合作。”“我认为美国和英国将成为最终成为网络研究所的真正推动力。”

英国和美国人工智能安全研究所成立仅间隔一天，大约是英国政府2023年11月在布莱切利公园主办的活动的一部分。虽然这两个组织的合作是在成立时宣布的，但多内兰说，新协议“正式化”并“充实了”这种合作。她还表示：“这为他们——美国政府——提供了一个机会，在我们建立和正式成立他们自己的机构阶段，他们可以略微依赖我们，因为我们的机构已经建立并全面运行。”

根据一份新闻稿，这两个人工智能安全测试机构将共同制定人工智能安全测试方法，包括使用相同的方法和底层基础设施。这两个机构将寻求交换雇员并在“符合国家法律法规和合同”的情况下互相共享信息。该新闻稿还指出，这些研究所打算对一个向公众提供的人工智能模型进行联合测试演练。

雷蒙多部长在宣布该伙伴关系的新闻稿中说：“英国和美国一直明确表示，确保人工智能安全发展是一个共同的全球性问题。”“为了反映持续的国际合作的重要性，今天的宣布还将看到两国分享关于人工智能模型和系统的功能和风险的重要信息，以及人工智能安全和保障方面的基础技术研究。”

英国和美国人工智能安全研究所所开发的安全测试将在立法者和科技公司高管努力减轻人工智能系统带来的风险方面发挥重要作用。聊天机器人ChatGPT和Claude背后的公司OpenAI和Anthropic发布了有关他们如何期望安全测试为他们的未来产品开发提供信息的指南。最近通过的欧盟人工智能法案和美国总统乔·拜登的行政命令都要求开发强大人工智能模型的公司公开安全测试的结果。

里希·苏纳克首相领导的英国政府在协调国际社会对最强大的人工智能模型（通常称为“前沿人工智能”）的反应方面发挥了主导作用，召开了第一次人工智能安全峰会，并为英国人工智能安全研究所提供了1亿英镑（1.25亿美元）。然而，美国尽管拥有强大的经济实力，而且几乎所有领先的人工智能公司都立足于美国，但迄今为止，美国仅向美国人工智能安全研究所提供了1000万美元。（国家标准与技术研究院是容纳美国人工智能安全研究所的政府机构，该机构面临着资金不足。）多内兰否认了美国未尽全力发挥作用的说法，他认为，这1000万美元并不能公平地代表美国政府在人工智能领域投入的资源。

多内兰刚与雷蒙多会面，她认为雷蒙多“充分理解我们有必要共同努力，把握风险以抓住机遇”，她说：“他们在议程上投入了时间和精力。”多内兰认为，除了向美国人工智能安全研究所提供1000万美元的资金外，美国政府“还在挖掘政府内已经存在的丰富专业知识”。

尽管在人工智能的某些方面处于领导地位，英国政府却决定不通过减轻前沿人工智能风险的法规。多内兰的对立面，英国工党科学、创新和技术影子大臣彼得·凯尔表示，工党政府将通过法律，要求科技公司与政府分享人工智能安全测试的结果，而不是依赖自愿协议。然而，多内兰表示，英国将在短期内避免对人工智能进行监管，以避免遏制行业增长或通过由于技术进步而变得过时的法律。

多内兰告诉《时代》，“我们认为仓促立法是不正确的。我们对此直言不讳。”“这是我们与欧盟分歧的领域。我们想要促进创新，我们希望让这个行业在英国发展。”

该备忘录要求两国与其他国家发展类似的伙伴关系。多内兰表示，“许多国家要么正在筹建自己的机构，要么正在考虑筹建自己的机构”，尽管她没有具体说明哪些国家。（日本在2月宣布成立自己的人工智能安全研究所。）

多内兰表示：“人工智能不受地理界限的限制。”“如果我们真的想确保这对人类是一股正能量，我们就必须在这个议程上进行国际合作、共享信息和共享专业知识。”