一项新研究表明，监督3D虚拟空间并介入打击不良行为的新形式的人工智能调解员可以帮助保护儿童免受网络欺凌和骚扰。
来自格拉斯哥大学的研究人员与家长及其孩子们合作，评估了他们对“大伙伴”的反应。该团队开发了这个在线社交虚拟现实空间中的原型虚拟主持人，以便更好地管理和监督这一领域。
在这项研究中，大伙伴帮助家长掌握他们孩子在虚拟空间中的体验，并通过采用类似于现实教室老师施加的惩罚来回应不当行为，让孩子们感受到更加安全和有保障。
这个团队的研究成果将于6月20日在ACM互动设计与儿童会议上以论文的形式呈现，该成果有助于为类似于元宇宙这样虚拟空间中使用的未来 AI 控制的适度者设计提供指导。
一组43名年龄在8岁至16岁之间的儿童，在苏格兰反欺凌服务机构RespectMe和Giggleswick学校的协助下招募，并与他们的17名家长一起参与了这项研究。该团队的论文，题为“Big Buddy: 探索儿童对社交虚拟现实模拟辅助系统的反应和家长的感知”，已经发表在第22届ACM互动设计与儿童大会的论文集中。
孩子们戴上虚拟现实头盔，进入了一个教室环境的桌子前，这个环境是由游戏开发工具 Unity 3D 制作的，由研究人员设计的。
孩子们使用手持虚拟现实控制器来玩游戏，任务是在时间限制内与一个事先编程的同学比赛，需要建造方块塔。他们可以通过快速建造来获得积分，直到计时器结束。
每一轮，孩子们都要面对旨在衡量他们面对不良行为时的反应以及虚拟世界中的巨大伙伴（即一个成人大小的虚拟人物，站在课室前面）的响应的情境。
在每个场景中，孩子们的对手向他们移动并推倒了他们建造的塔。在一个场景中，大伙伴缺席，没有采取措施对抗不良行为。在其他场景中，大伙伴会介入，重新设置竞争者的分数，告知他们的父母他们表现不佳，阻止他们参加游戏，或者三个方案的组合。
位于计算机科学学院的人机交互讲师马克·麦吉尔博士是这份论文的一位作者。他表示：“社交虚拟现实的影响之一是可以提供非常逼真的体验，使用户具有虚拟身体和存在感，从而产生强烈的心理感受，仿佛置身于真实空间中。”
当虚拟空间对用户来说感到安全和保护时，这可以是一种非常积极的体验。然而，当用户选择不当行为时，情况很快就会变得消极，并且已经有很多关于VR中欺凌和骚扰的报道。虚拟现实体验的真实感可以让欺凌感觉就像在现实生活中一样令人沮丧，而儿童和家长可能无法使用游戏内的工具来进行封锁或举报的回应。
在没有管理的虚拟空间中，欺凌行为甚至更有可能发生，因为用户可以保持匿名，社交禁忌对于限制行为的压力也较小。我们在《大伙伴》研究中想要探讨的是，当游戏被干扰时孩子和他们的家长们的感受，以及他们如何应对大伙伴的干预措施。
在轮换之间，孩子们对刺激性场景的反应被用问卷测试，并用从悲伤到快乐、从平静到愤怒以及从害怕或受到威胁到安全的尺度评分。同时，他们对大伙伴反应公正性的感知也被测试了。
同时，家长们被要求观看他们的孩子对各种情境的反应视频，并提供他们自己的情感反应，看到他们的孩子受到不良行为的影响，以及他们对大伙伴干预措施的看法。
计算机科学学院的研究生Cristina Fiani是这篇论文的合作者之一。她说：“我们从孩子们的反应中非常清楚地看到，当Big Buddy在教室里时，大多数孩子都感到更安全，许多孩子认为Big Buddy有助于使游戏更公平。Big Buddy被视为类似于裁判或教师的角色，可以使游戏更公平，并惩罚那些做错事情的人。”
许多家长报告了一定程度的不安、震惊或担忧，看到自己的孩子受到不良行为的影响。然而，Big Buddy的存在通常能让家长感到安心，他们大部分称赞Big Buddy的干预行为是合理的反应。他们还表示，他们可能会感激在现实生活中接收到警报，以帮助他们知道他们的孩子面临挑战的情况，并允许他们在必要时自己进行干预。
我们收到的反馈表明，Big Buddy 提供了未来 AI 主持人的一种有用且可能必要的模型。Big Buddy 让孩子们拥有自主权，同时帮助他们感到安全，并为父母提供更大程度的参与和意识，了解他们的孩子在虚拟现实中看到和做的事情。
领导这项研究的Mohamed Khamis博士补充道：“虚拟空间中的人类管理者，如果存在的话，数量不足且资源匮乏，因此人工智能有很大潜力提供一种替代方案，可以客观地监测行为并让父母了解他们孩子头戴设备中正在发生的事情。”
尽管在这项初始研究中，Big Buddy受到人类操作员的控制，但我们对收集到的家长和儿童的反馈感到鼓舞，这表明未来VR社交空间中，这种模式自动化的适度控制可能会十分有价值。尽管空间的安全感很重要，但这也需要平衡用户的代理权利，让他们可以按照自己的喜好愉快游玩，而不感受到过于严格的监管。
我们热衷于继续与教师和儿童发展专家密切合作，进一步完善大伙伴模式的有效性，并考虑开发强大的人工智能程序，使其在未来的虚拟社交空间中更加有用。
