艾瑞克·施密特和约书亚·本吉就人工智能应该引起我们多少恐慌进行辩论

(SeaPRwire) –   两位顶尖人工智能专家——一个乐观者和另一个更警觉人的技术未来——在周三的TIME100峰会上进行了热烈的辩论。

Mila Quebec人工智能研究所的创始人和科学主管Yoshua Bengio以及前谷歌CEO、特别竞争性研究项目主席Eric Schmidt都同意,人工智能正准备改变现代社会。

正如主持人斯蒂芬妮·鲁尔在MSNBC的形容:“Yoshua认为人工智能可能使我们灭绝的风险应被视为全球性风险,就像我们看待流感和核战争一样。Eric对人工智能极为兴奋。”

Bengio主要担心人工智能系统是否能够确保仅用于预期目的,而不是有害目的。“我们绝对需要清除迷雾;现在,科学家真的不知道”如何使人工智能符合社会的规范、法律和价值观。

Schmidt和Bengio还讨论了以盈利为目的的公司在被要求监管其人工智能使用时可能面临的利益冲突。Schmidt坚持认为行业领导者正在要求监管。但是Bengio提出质疑:“这很棘手,因为公司正在进行这场赢得胜利的竞赛;同时,这些公司的个人都是人,他们不希望发生灾难。”

Schmidt表示,公司在真正需要“把事情弄清楚”前还有大约三到五年的时间。那就是会出现更大伦理问题的时候,他说。

“这太快了,”Bengio说,他认为目前还没有足够的法律强制公司确保其人工智能系统的数据不会被恶意行为者窃取。

Schmidt对西方国家将制定这些法律持乐观态度,但“更担心我们无法控制的机构”。每个人都在关注大型美国公司,所以危险性较小,他说。

Bengio强调需要国际协调,因为其他国家的人工智能渗透也可能危害美国。他说:“开始了,但我们需要加快步伐。”

两人在一个问题上达成一致——当人工智能系统开始无人控制操作时,将会出现一个转折点。

Schmidt说,那个时刻将“极为危险”。“你知道我们应该做什么吗?我们应该断开电脑。这根本不行。有限度。”

TIME100峰会汇集全球TIME100社区领导人,重点关注解决方案并鼓励采取行动建设更美好的世界。本届峰会将邀请来自政治、商业、健康与科学、文化等各个领域的多元化发言人。

2024年TIME 100峰会发言人包括演员Elliot Page、设计师Tory Burch、奥运会金牌得主Ibtihaj Muhammad、WNBA冠军A’ja Wilson、作家玛格丽特·阿特伍德、纽约证券交易所主席Lynn Martin、喜剧演员Alex Edelman、Bengio、第68任国务卿约翰·克里、演员简·芳达以及许多其他人。

TIME100峰会由Booking.com、Citi、默克公司、Northern Data Group、格兰菲迪奇单一麦芽威士忌、Verizon赞助。