能帮助我们识破AI伪造的古老原则

(SeaPRwire) –   你不需要先进技术就能在网上愚弄他人。我们向3000多名高中生展示了一段粗糙的视频，视频中投票站工作人员正在倾倒选票以操纵选举。一个红色大写字体、醒目的标题就足以欺骗学生相信美国存在选民欺诈——尽管这段录像来自俄罗斯。只有三名学生识破了这一点。

我们长期以来认为廉价的假货比深度伪造更危险：它们几乎同样有效，但制作起来却容易得多。在上次选举中，即使AI工具已普及大众，引发关于乔·拜登总统是否适合任职的争论的，却是用数字胶带拼接而成的假视频。

现在，廉价假货的时代正在终结。使用新型视频工具制作的内容标志着一个更加危险的信息领域。得益于Google的Veo 3、OpenAI的Sora 2和Meta的Vibes等产品，AI“垃圾信息”现在制作起来如此容易，以至于它正在我们的屏幕上蔓延，这还得益于平台对其的全面……。为了驾驭今天的互联网，我们需要来自古老智慧的指引：穆斯林、犹太教、佛教和其他信仰对声誉核心地位的世代强调。

虔诚的穆斯林通过“叙述链”或“伊斯那德”（isnad）追溯穆罕默德的言论。虔诚的犹太人则根据诵读《塔木德》教义的拉比的背景来解释这些教义。藏传佛教徒以从佛陀至今的传承方式口头传授教义。所有这些传统都鼓励我们对信息进行推理，但前提是我们要追溯其来源并评估其背后贤者的声誉。

声誉在世俗语境中也同样重要：它是我们在缺乏知识和专业技能时做出决策的机制。我们在选择治疗师或水管工、餐馆或预订酒店时都依赖声誉。我们会询问我们信任的人并查阅评论，因为我们认识到没有人会主动透露自己的缺点或别有用心。

声誉在我们生活的诸多领域都至关重要。那么，为什么在互联网上，大多数人却忽视它呢？

我们的研究测试了数千名年轻人在线评估信息的能力。我们一次又一次地看到他们评判内容，却忽视了其来源。一名来自俄亥俄州农村的学生相信了那个投票欺诈视频，因为他们认为自己的肉眼能够检测到“多个州的欺诈行为”。一名来自宾夕法尼亚州的学生写道，视频清晰地“显示人们将假选票投入箱中”。

当涉及到AI时，同样的模式会被放大。一位分享了他们经验的老师讲述了他们如何问一名学生，他们如何知道来自ChatGPT的信息是否准确。学生把手机推到老师面前说：“看，这里写着呢！”我们在高中和大学课堂进行的初步研究也显示出类似的趋势：许多学生信任AI聊天机器人，即使这些聊天机器人省略了信息来源的背景。

太多的互联网用户未能考虑声誉，或将……或……误认为是经过审查的来源，而非有缺陷的……。当人们试图评估声誉时，他们会被来源本身提供的易于操纵的信号所影响：一个……域名，“关于”页面上听起来官方的语言，不考虑质量的数据数量，或者对某事如何……的直觉。

这些特征如同愚人金般闪耀。任何人都可以获得一个……，包括仇恨团体。否认大屠杀的网站在其“关于”页面声称“提供事实信息”。带有精美图表的帖子可能包含有害的虚假信息。有报道称，AI是如此真实，以至于它迫使我们怀疑自己的感官：从听起来像我们父母的……到西雅图太空针塔被大火吞噬的超现实……。

这种信息格局在顺从和唯我论之间呈现出一种两败俱伤的选择：要么不关心真相，要么坚持认为没有真相。前者使我们容易受到那些将逼真片段武器化的不良行为者的攻击。后者使我们缺乏好的信息。在知情公民意识稀缺的时代，这两种选择都会侵蚀知情公民意识。

我们可以这样做：与其关注内容本身，不如首先询问其幕后是谁，就像信仰传统在谁说了它们这个背景下看待教义一样。

而当熟练运用时，那些误导我们的工具也能帮助我们摆脱这个困境。不是通过将我们的思考外包给技术，而是通过利用技术来建立声誉和磨砺我们的思维。

那三名识破选民欺诈视频来自俄罗斯的学生并没有进行任何技术上的魔法。他们只是打开了一个新标签页，输入了一些关键词，然后从BBC和Snopes等可信来源找到了揭穿真相的文章。而且，只要掌握一些关于LLM工作原理和如何有效构建提示的巧妙指导，AI实际上可以帮助验证社交媒体上的帖子并提供缺失的背景信息。

主要的AI工具都会附带一次性免责声明，告知用户核实信息。Google表示：“Gemini可能会犯错，所以请仔细核对。”OpenAI建议：“ChatGPT可能会犯错。请核对重要信息。”但是，从Alpha世代到……，几乎每个人在核实他们遇到的信息时都感到困难。

好消息是，我们所有人都可以做得更好。即使是几个小时关于如何评估声誉的指导也能有所帮助——正如我们在从……和……的高中课堂到……和……的大学课程中进行的研究所看到的那样。以前，学生们相信自己的眼睛来判断某物是否可靠。之后，他们学会了掌握来源的声誉。在……、……、……、……和……的研究也发现了类似的积极结果。

当我们无法再区分真实内容和AI生成内容时，试图决定信任什么会让人感到彻底的徒劳。但是，我们可以通过加倍重视一个古老的教训——声誉的重要性，来更好地应对当今的知识生态系统。