科技CEO在国会听证会上被质询儿童网络安全问题时,AI技术也在使问题更加复杂

(SeaPRwire) –   五家社交媒体公司包括Meta、TikTok和X(原Twitter)的CEO本周三在参议院被质询时,人工智能正使这个问题变得更加复杂。

参议院司法委员会召开会议,要求这些CEO对未能防止对儿童的性剥削负责,并询问他们是否支持委员会提出的法律来解决这个问题。

根据失踪和受害儿童国家中心报告,这个问题正日益严重。去年儿童性剥削材料的报告达到破纪录的3.6亿多起,如美国的失踪和受害儿童网络举报中心报告。2022年,该中心收到近9成来自国外的报告。

Meta的马克·扎克伯格、TikTok的周哲、X的琳达·亚卡里诺与Snap的杰森·斯皮格尔和Discord的杰森·西特伦一起出现在参议院司法委员会回答问题。尽管扎克伯格和周哲自愿出席,委员会不得不传唤斯皮格尔、西特伦和亚卡里诺。

伊利诺伊州民主党参议员理查德·达宾,即委员会主席,以展示儿童性剥削受害者的视频开场。

南卡罗来纳州共和党参议员林赛·格雷厄姆告诉在场人员,南卡罗来纳州议会众议员布兰登·格菲的17岁儿子在Instagram上遭性胁迫后自杀。“你们有血债,”格雷厄姆特别指责扎克伯格。

许多议员表示对这些社交媒体公司解决这个问题的努力不足感到失望,并表示自己很乐意采取行动。去年,除了召开多次听证会外,司法委员会还将几项旨在保护儿童网络的法案提交参议院表决,包括《儿童性剥削材料法案》,它将删除技术公司在儿童性剥削材料法律下的民事和刑事豁免权。

在证词中,这些CEO都概述了他们防止网络对儿童危害的措施。但当被追问是否支持司法委员会报告的法案时,许多人回避问题。

密苏里州共和党参议员乔什·霍利问扎克伯格是否愿意向在场受影响儿童家长道歉。扎克伯格说:“对不起,你们都经历了很多。这太糟糕了,没有人应该经历你们家庭所遭受的事情。”

CEO多次强调公司利用人工智能来解决网络儿童色情问题。西特伦在证词中强调Discord收购了开发AI内容审查解决方案的Sentropy公司。扎克伯格说Meta删除内容99%都是通过AI工具自动检测出来的。但法律人员和技术总监没有讨论AI在儿童色情扩散中的作用。

AI生成的儿童色情图片

生成性人工智能的出现加剧了对儿童网络危害的担忧。全球执法机构正努力应对AI生成儿童色情案例激增,这在许多法院前例中都是前所未有的。

2023年,在电影《奇异博士2:失控多元宇宙》中扮演青少年超级英雄美国女孩的17岁演员索奇特·戈麦斯谈到,如何清除X上的AI生成色情图片很困难。

她在泰勒·劳特纳的播客中说,她母亲和团队一直在试图删除这些图片,但没有成功。“她收到了无数封邮件,但问题在于它很难删除,”她说。“对我来说,这不是很令人惊讶,只是‘为什么这么难删除?’”

执法机关面临阻止AI生成儿童色情传播的复杂任务,因为这项技术的发展速度极快,使用工具如所谓“深度学习”也越来越容易,甚至儿童也能接触。

随着AI模型不断改进和普及,如果用于非法目的如生成儿童色情,它们将更难监管,根据英国互联网观察基金会首席技术官丹·塞克斯顿表示。他说,世界需要迅速找到解决方案:“我们等待找到每个可能问题的解决方案的时间越长,就越有可能事情已经发生,我们只能追赶并试图弥补已经造成的伤害。”

问题日益严重

在大多数情况下,生成任何形式的儿童色情都已被广泛定为犯罪,包括使用AI。国际失踪和受害儿童中心在其最新报告中发现,196个国家中有182个制定了特别针对儿童色情或足以打击它的立法。例如,美国将儿童色情定义为任何涉及未成年人的性明示视觉描绘,这可能包括“无法与真实未成年人区分的数字或计算机生成图像”,以及“似乎描绘可识别真实未成年人的图像”。爱尔兰的法律更为严格:儿童色情不论。

一些违法者已经根据这些法律被定罪。9月,一名40多岁男子利用AI绘制数百张生动真实的儿童色情图片,被判处2.5年监禁。去年4月,一名61岁男子利用深度假象技术创建合成儿童色情视频,被判3年监禁。同月,一名22岁男子承认多项与生成和散布多达十多名未成年女性色情图片相关的罪名,被判6个月监禁和10年缓刑。

但这些案件的裁决并不总是直接明了。9月,西班牙发现11-17岁女孩的AI生成裸照在网上流传,但确定涉案者的刑事责任需要时间,他们也被认为是未成年人。马德里自治大学刑法教授曼努埃尔·坎西奥告诉《时代》杂志,“如果每个人都清楚知道如何在刑法典的哪一部分定位这个明确案例,那么指控就已经提出了。”英国互联网安全中心主任大卫·赖特也告诉《时代》杂志,该组织还收到学生之间传播同学AI生成裸照的报告。

今天,AI技术可以利用任何无辜儿童的外貌,或创建不基于真实儿童的图像来几秒钟内生成色情材料,尽管许多开发商不允许用于此目的。斯坦福互联网观察站报告说,一些AI模型在训练数据集中包含至少3000张已知儿童色情图片来源于主流平台如和-尽管它们禁止发布此类内容。和没有回应报告要求评论。塞克斯顿说,英国互联网观察基金会还收到过儿童受害者图像被重新使用来生成更多儿童色情图片的报告。

斯坦福互联网观察站首席技术官大卫·赖特表示,AI生成儿童色情已经超过了追踪和删除该内容的解决方案。“这不是再循环已知材料,而是一种持续流出新材料,这使视觉指纹识别变得很困难,”他说。