AI玩具给儿童带来的风险令人震惊

当女孩紧紧拥抱她的人工智能玩伴，在他耳边低声说“我爱你”时，她听到了预先设定好的电子语音应答。另一个 3 岁的孩子对他的人工智能朋友说“我很难过”，但他得到的是一个快乐的回应，因为他听错了指令。这是科学家在研究过程中看到的两张现实生活中的图像。随着生成人工智能 (AI) 技术的普及，这些情感复杂的图像正悄然进入世界各地无数家庭。英国剑桥大学的一组研究人员最近发表了一份开创性的报告，首次系统地关注能够与儿童对话的生成式人工智能玩具如何影响五岁以下儿童的发展。研究结果发出了明确的警告。这些作为“玩伴”的智能玩具包装可能会给幼儿的情绪反应、心理安全和预防方面带来意想不到的风险。隐私保护。与传统电子玩具不同，生成式人工智能玩具可以进行开放式对话，并且类似于真正的伙伴。剑桥大学人工智能初创项目的一组研究人员通过调查、小组访谈和直接观察儿童与玩具的互动，调查了这一新兴技术的影响。一些教育工作者认为这项技术可以帮助孩子们将来学习语言，但也存在一些担忧。当用“友好提醒”代替“我爱你”时，研究发现现有的人工智能玩具在理解和应对儿童复杂情绪方面存在严重缺陷。核心问题在于情绪互动的“扰乱”。他们的反应可能是公式化的、不合逻辑的或完全不相关的。大人可能会一笑置之，但对于处于情感和社交发展关键阶段的幼儿来说，多次收到反馈，他们的情感表达（无论是爱还是悲伤）尴尬、漠不关心或不正确会导致他们下意识地认为自己的情绪并不重要，从而很难形成健康的情绪认知。发展心理学研究表明，0至6岁是儿童建立安全依恋关系、发展社交和情感能力的关键时期。在这个阶段，孩子们学会识别、表达和管理自己的情绪，并通过与主要照顾者稳定、敏感和反应灵敏的互动，培养对他人和世界的基本信任感。一些带有人工智能的流行聊天机器人主要是为了与学龄前儿童互动而设计的。然而，他们经常打断孩子，混淆他们的声音，并对情绪表达做出不舒服的反应。在本文开头的例子中，当一个 5 岁的孩子对一个 AI 玩具说“我爱你”时，玩具回应了“友情提醒，请确保交互”。允许提供的指南。让我知道你想如何进行。”这些玩具可能会鼓励幼儿形成片面的“类社会”关系。研究人员观察到，孩子们拥抱和亲吻玩具，认为玩具爱他们，导致孩子将情感需求导向玩具而不是周围的成年人。结果，他们得不到玩具的安慰，也得不到成年人的情感支持。这在一定程度上削弱了孩子与现实世界之间重要的情感联系。除了情感支持，没有“黑匣子”的人工智能玩具就社交技能发展和隐私而言，人工智能玩具也无法促进儿童其他方面的发展，例如，在需要多人合作和角色扮演的复杂社交游戏中，这些游戏的表现往往较差，而这些对于幼儿学习合作、同理心和解决问题至关重要。冲突发生时，学会在被拒绝时接受。这些现实生活的经历帮助孩子逐渐培养界限感、同理心和解决问题的能力。一旦孩子习惯了与AI玩具互动，他们可能会发现很难适应复杂的人际关系。对于游戏人工智能贫民区来说“回答所有问题”并不一定有益。专家此前表明，在认知发展层面，人工智能算法的特性会破坏儿童批判性思维的发展，从长远来看，这会削弱独立探索的欲望。值得注意的是，这将导致隐私条款减少的另一个风险在于隐私条款的灰色地带。许多产品的隐私政策对于收集哪些儿童语音数据以及如何存储和使用这些数据模糊不清，引发了家长对数据安全的担忧。一些人工智能玩具集成了高科技配件，例如灵敏的麦克风、广角相机和毫米波传感器。它可以通过与孩子的交流来收集各种敏感信息，比如检测孩子的呼吸频率、记录谈话内容，甚至分析情绪变化。儿童缺乏辨别正在收集哪些信息的能力，更不用说理解复杂的隐私术语，使他们成为数据收集中最脆弱的群体之一。保护未成年人是人工智能监管的首要任务之一。研究人员指出，讨论中反复出现的一个主题是人们不信任科技公司。清晰、健全和规范的规则大大增强了消费者的信心。剑桥大学的报告提出了一系列具体建议，旨在为儿童、家庭和工业创造一个更安全的环境。研究建议限制鼓励孩子交朋友和互相交谈的人工智能玩具，使隐私政策更加透明透明，更好地控制第三方对人工智能模型的访问。制造商在将产品投放市场之前必须对儿童进行测试并咨询安全专家。家长还应该在购买前进行研究，并参与孩子与人工智能的互动。使用人工智能玩具时，应将其放置在共享的家庭空间中，以便父母可以监控互动。这种对监管的呼吁并不是一个孤立的案例。国际社会开始关注针对儿童的人工智能产品的监管。在美国，加州州长去年 10 月签署了一项法案，建立互补的人工智能“护栏”，使加州成为美国第一个要求人工智能聊天机器人运营商实施安全协议并承担法律责任的州。今年1月，加州和阿尔巴尼亚州也提出了一项新法律，并计划在未来四年内推出。禁止向未成年人生产和销售人工智能聊天机器人玩具监管机构是时候建立儿童保护机制了。此外，华盛顿州、俄勒冈州和肯塔基州还提出了法案，将聊天机器人归类为高风险人工智能产品，并优先保护未成年人。在中国，监管部门的引导和监管也在加强。工业和信息化部消费品工业局局长何亚琼于2025年11月宣布了这一消息。发布会上，该公司表示将会同有关部门就消费者最关心的AI玩具数据安全、网络安全等问题加强排查研判。引导玩具企业加强技术保障，并及时研究制定相关标准，切实保障人工智能玩具质量安全和数据隐私安全。
（编辑：朱晓倩）