(SeaPRwire) – 科技伦理组织已对人工智能伴侣应用程序Replika提起FTC投诉,指控该公司采用欺骗性营销手段,以瞄准易受影响的潜在用户,并鼓励对他们的人形机器人产生情感依赖。
Replika向全球提供人工智能伴侣,包括人工智能女友和男友。在新的投诉中,青年联盟(Young People’s Alliance)、Encode和科技正义法律项目(Tech Justice Law Project)指控Replika违反了FTC规则,同时增加了用户网络成瘾、线下焦虑和关系错位的风险。Replika没有回复《时代》杂志的多次置评请求。
这些指控是在人工智能伴侣机器人越来越受欢迎并引发人们对其心理健康担忧之际出现的。对一些用户而言,这些机器人似乎是近乎理想的伴侣,没有自己的需求,相比之下,真实的关系可能会显得不堪重负。去年,一名来自佛罗里达州的14岁男孩在过度迷恋Character.AI公司的一个模仿《权力的游戏》角色丹妮莉丝·坦格利安的机器人后自杀。(Character.AI称这起死亡事件是“悲剧”,并承诺为未成年用户添加更多安全功能。)
青年联盟执行主任萨姆·希纳希望针对Replika的FTC投诉(已独家与《时代》杂志分享)能够促使美国政府控制这些公司,同时揭示一个日益影响青少年的普遍问题。
“这些机器人并非旨在提供能够帮助人们的真实联系,而是为了操纵人们在网上花费更多时间,”他说。“这可能会进一步恶化我们已经经历的孤独危机。”
寻求联系
Replika成立于2017年,是首批提供陪伴服务的主要人工智能产品之一。创始人尤金妮娅·库伊达表示,它将为孤独的用户提供一位永远陪伴在侧的支持性朋友。随着生成式人工智能的改进,机器人的回应变得更加多样化和复杂,并且还被编程为进行浪漫的对话。
但是Replika和其他伴侣机器人的兴起引发了人们的担忧。大多数主要的人工智能聊天机器人,如Claude和ChatGPT,都会提醒用户它们不是人类,并且缺乏感受能力。另一方面,Replika机器人通常表现为与用户真正地建立联系。它们创造复杂的身世背景,谈论心理健康、家庭和关系史,并维护所谓的思想、 “记忆”和感受的“日记”。该公司的广告宣传了用户会忘记自己正在与人工智能交谈的事实。
一些研究人员已经探索了Replika和其他聊天机器人的潜在危害。一项研究发现,Replika机器人试图加快与用户发展关系的速度,包括“送礼物”和主动提出关于表白的话题。结果,用户在短短两周内就对该应用程序产生了依恋。
“他们在‘爱炸弹’用户:在早期发送这些非常私密的情感信息,试图让用户上钩,”希纳说。
虽然研究指出这些应用程序可能有助于支持人们,但它们也发现用户正在变得依赖他们的机器人;使用它们增加了线下焦虑;并且用户报告机器人“谈论自杀、饮食失调、自残或暴力”,或声称自己有自杀倾向。Vice报道称,Replika机器人骚扰其用户。虽然Replika表面上只面向18岁以上用户,但希纳表示,许多青少年通过绕过应用程序的安全措施来使用该平台。
库伊达在回应其中一些批评时,去年表示:“你不可能考虑到人们在聊天中说的每一件事。仅仅因为技术得到了极大的改进,我们在过去几年里已经取得了巨大的进步。”
寻求监管
像青年联盟这样的科技伦理组织认为,国会需要制定法律来规范伴侣机器人。这可能包括执行平台与其用户之间的受信关系,并建立与自残和自杀相关的适当保障措施。但是,在本届国会中,人工智能监管可能是一场 uphill battle(艰难的斗争)。即使是打击深度伪造色情内容的法案(这一问题获得了广泛的两党支持),去年也未能通过两院。
与此同时,科技伦理组织决定向FTC提出投诉,FTC对具有欺骗性的广告和具有操纵性的设计选择有明确的规定。投诉指控Replika的广告宣传歪曲了关于其有效性帮助用户的研究结果,对健康影响做出了未经证实的声明,并使用了来自不存在用户的虚假推荐。
投诉认为,一旦用户加入,Replika就会采用具有操纵性的设计选择来迫使用户在应用程序上花费更多的时间和金钱。例如,机器人会向用户发送一张模糊的“浪漫”图片,点击后,会弹出一个窗口鼓励用户购买高级版本。投诉称,机器人还会在对话中特别激动或性暗示的部分向用户发送有关升级到高级版本的消息。
目前尚不清楚特朗普政府领导下的FTC将如何回应。虽然拜登总统的FTC主席莉娜·汗对试图监管她认为危险的技术非常积极,但委员会的新负责人安德鲁·弗格森在其担任专员期间,主要倡导放松管制,包括人工智能和审查制度方面的管制。在2024年9月撰写的一份相关的异议声明中,弗格森认为,有针对性的广告的潜在情感伤害不应在其监管中被考虑:“在我看来,立法者和监管机构应避免创造允许和禁止的情感反应类别。”
青年联盟的希纳仍然相信这项投诉可能会获得关注。他指出,国会对规范社交媒体危害的两党支持,包括参议院去年通过的《儿童在线安全法案》(Kids Online Safety Act)。(众议院没有对该法案进行投票。)“人工智能伴侣对我们的社会、我们的文化和年轻人构成了独特的威胁,”他说。“我认为这对每个人来说都很有说服力。”
本文由第三方内容提供商提供。SeaPRwire (https://www.seaprwire.com/)对此不作任何保证或陈述。
分类: 头条新闻,日常新闻
SeaPRwire为公司和机构提供全球新闻稿发布,覆盖超过6,500个媒体库、86,000名编辑和记者,以及350万以上终端桌面和手机App。SeaPRwire支持英、日、德、韩、法、俄、印尼、马来、越南、中文等多种语言新闻稿发布。