谷歌双子座的惨败并非源于伦理型 AI

(SeaPRwire) –   本月早些时候，Google发布了其期待已久的系统“Gemini”，首次让用户可以使用其AI图像生成技术。虽然大多数早期用户都认为该系统令人印象深刻，可以在几秒钟内为文本提示创建详细的图像，但用户很快便发现让系统生成白人的图像很困难，很快就出现了令人费解的示例，例如。

一些人指责Gemini“太清醒”，将Gemini当作一场升级的文化战争的最新武器，这场战争旨在强调历史歧视的影响。许多人说这反映了Google内部的倦怠情绪，还有一些人将“AI伦理”领域称为一则尴尬的故事。

认为AI伦理工作应该受到指责的想法是错误的。事实上，Gemini向Google展示了AI伦理的道理。当AI伦理侧重于解决可预见的使用案例（例如历史描绘）时，Gemini似乎选择了“一刀切”的方法，导致令人耳目一新的多样化和令人尴尬的输出结果杂糅在一起。

我应该知道。我在技术公司从事AI伦理工作已超过10年，使我成为世界上最资深的专家之一（这是一个年轻的领域！）。在他们解雇我和我的共同领导人后，我还创建并共同领导了Google的“AI伦理”团队，此前我们提交了一份报告，警告出现了针对语言生成此类问题的典型情况。许多人批评Google的决定，认为这反映了系统性歧视和在AI中优先考虑鲁莽的速度，而不是深思熟虑的策略。这是有可能的，我完全同意。

Gemini的惨败再次暴露了Google在我的独特胜任力范围内战略的无能，现在我可以帮助公众更普遍地了解该战略。这篇文章将讨论AI公司下一次可以采取一些方式做得更好的方法，避免在文化战争中给极右翼提供无益的弹药，并确保AI未来使尽可能多的人受益。

在AI中实施伦理道德的关键部分之一是阐明可预见的使用方式，包括恶意使用和滥用。这意味着解决以下问题：一旦我们想到的模型得到部署，人们将如何使用它？我们如何设计它以使其在这些情况下尽可能有益？这种方法认识到在创建AI系统时“使用环境”的核心重要性。这种对社会和技术交互的基础上进行的前瞻性和背景思考对于某些人来说比其他人更难 —— 这里是有专门技能的人从事人机交互、社会科学和认知科学（谈及技术招聘中跨学科的重要性）。这些职位往往没有工程职位那么大的权力和影响力，我猜在Gemini案例中也是如此：那些最擅长阐明可预见用途的人没有得到授权，导致了一个无法处理多种适当用途的系统，例如描绘历史上白人群体。

组织将所有用例视为一个用例或根本不建模用例时，情况就会出错。因此，如果没有对不同环境中的用例进行以伦理为基础的分析，AI系统可能不会拥有“底层”模型，帮助识别用户正在要求什么（以及是否应该生成）。对于Gemini来说，这可能涉及确定用户是否正在寻找具有历史意义或多元化的图像，以及他们的请求是模糊的还是恶意的。我们最近看到同样的失败，没能为可预见的用途构建健壮的模型，导致。

为了提供帮助，我在多年前制作了以下图表。任务是填写单元格；我今天用一些与Gemini特别相关的示例填补了此表。

绿色单元格（顶部行）最有可能是可能有益的AI（而不是AI总是可能有益的地方）。红色单元格（中间行）是最有可能出现有害AI的地方（也可能是可能发生无法预料的有益创新的地方）。其他单元格更有可能出现好坏参半的结果 – 有些结果是好的，有些是坏的。

下一步涉及解决不同环境中可能出现的错误，解决歧视对象亚组的不成比例的错误。Gemini的开发人员似乎在很大程度上做对了这一点。该团队似乎有远见地认识到了在中立或积极的情况下过度代表白人的风险，这会放大一种有问题的以白人为中心的世界观。因此，在Gemini中可能有一个子模块旨在向用户展示较暗的肤色。

这些步骤在Gemini中很明显，但在涉及可预见用途的步骤中却没有，这可能部分归因于公众对AI系统中偏见的认识增强：亲白偏见是一个容易预见的公关噩梦，而处理“使用环境”的细致方法则不是。最终结果是一个在包容可预见的适当用例方面“错失良机”的系统。

高级别观点是，可以拥有使用户受益并将对那些最有可能受到负面影响的人的伤害降至最低的技术。但你必须让人们善于将此纳入开发和部署决策。这些人中，许多人在科技领域属于权力较低（或更糟）的群体。不一定要这样：我们可以在赋予合适人选以最胜任的能力来帮助的AI领域拥有不同的路径。应该寻求不同的观点，而不是压制它们。要想做到这一点，需要进行一些艰苦的工作和激烈的争论。当科技高管像Gemini生成的图像一样具有多样性时，我们就知道自己走上了正确的道路。