1 摘要
机器学习的进步使得文字、图像、音频和视频数据的超现实合成成为可能,这些合成被称为人工智能(AI)生成的媒体。这些技术为创造与个人数字描绘的互动提供了新的机会,以此激发和吸引我们。人工智能生成的角色刻画可包含任何人的合成面孔、身体和声音,从虚构角色到历史人物,甚至是已故的家庭成员。尽管到目前为止,这项技术的负面用例占据了主导地位,但在本篇观点中,我们重点介绍了人工智能生成角色的新兴积极例子,特别是在帮助学习和提升幸福感方面。我们展示了一个易于使用的 AI 角色生成管道,以实现此类结果并讨论道德影响以及包括可追溯性以帮助维持对生成媒体信任的必要性。当我们展望未来时,我们预见生成媒体将成为不断发展的人机交互领域的重要组成部分。
2 主旨
自1950年代以来,计算机生成内容的想法就已经存在。一些最早的尝试集中在通过让计算机生成视觉艺术和音乐来复制人类的创造力。与今天的合成媒体不同,早期的计算机生成的内容远非现实,也很容易与人类创造的内容区分开来。人工智能花费了数十年的时间和重大飞跃,以使生成的内容达到高水平的真实感。
生成模型和判别模型是机器从数据中学习的两种不同方法。尽管判别模型可以识别图像中的人,但生成模型可以生成以前从未存在过的人的新图像。生成模型的最新飞跃包括生成对抗网络 (GAN)。自推出以来,人工智能生成的媒体模型(例如 GAN)已经实现了数字内容的超现实合成,包括生成逼真的图像、克隆声音、面部动画以及将图像从一种形式转换为另一种形式。GAN 架构包括两个神经网络,一个生成器和一个判别器。生成器负责生成类似于输入数据的新内容,而鉴别器的工作是将生成或虚假的输出与真实数据区分开来。这两个网络相互竞争,并试图在闭合反馈循环中超越彼此,从而逐渐增加生成输出的真实性。
GAN 架构可以生成以前从未存在过的事物的图像,例如人脸。然而,StyleGAN 是可修改 GAN 的一个示例,它通过将高级属性(如人的身份)与低级特征(如头发或雀斑)分离,从而实现对生成图像的面部细节的直观控制,几乎没有可见的伪影。研究人员还提出了一种域内 GAN 反演方法,可以编辑 GAN 生成的图像,允许对现有照片进行去老化或添加新的面部表情。同时,在大规模生成 GPT-3 语言模型中使用的转换器已经被证明在文本到图像生成方面是成功的。
除了生成新的数字媒体外,像GAN这样的生成模型还可以控制现有媒体以实现诸如外国电影的视频配音等应用,为历史人物的旧图像添加动画,也许是最臭名昭著的"深度伪造"[3]世界领导人、政治家和名人这样人的视频,他们被描绘成说或做他们从未做过的事情。然而,本观点的主要目标不是讨论该技术的潜在滥用,因为这些已经在文献中广泛涵盖。相反,本观点旨在展示该技术的有益应用,并讨论其一些社会影响和关注(社会影响部分)。
该技术已发现可用于多种有益应用。目前,生成模型正被用于包括娱乐、客户服务和营销在内的不同行业。示例包括移动设备应用程序,它使用户能够在视频剪辑和 GIF 中幽默地交换他们的面孔以与朋友分享。其他初创公司允许用户创建 AI 生成的逼真虚拟助手,或者在视频或直播中执行面部替换。Li'l Miquela 等虚拟角色已经非常受欢迎,在 Instagram 上拥有数百万粉丝。除了图像和视频之外,最近公开了一种基于语音记录在视频中生成逼真的嘴唇运动的模型,允许任何人将录制的讲座、公告和电影翻译成另一种语言,而说话者的嘴唇运动和配音之间没有任何明显的差异。
鉴于生成 AI 的最新进展,我们认为 AI 生成的角色有可能在学习和医疗保健方面取得可喜的成果,但需要更多的研究来确定有价值的机会并了解它们的局限性。在这个观点中,我们展示了人工智能生成角色的新兴用例,并讨论了它们在教育和福祉方面的潜力(图1)。此外,我们演示并提供了一个基于公开代码、易于使用的 AI 字符生成管道 ( https://github.com/mitmedialab/AI-generated-characters) 。我们强调了人工智能生成的角色的一些道德影响,以及包括可追溯性以帮助维持对数字媒体的信任的必要性。当我们展望未来时,我们预见生成媒体将成为人类与人工智能之间不断增长的联系格局的一部分。
图1:模拟当代和历史人物的人工智能生成角色的应用实例。

3 人工智能生成的角色
在这个观点中,我们将 AI 生成的角色定义为由机器学习算法创建人的数字表示,这些算法的外观、声音和行为都非常逼真,但不一定是恶意的(如 deepfakes)。为了在更广泛的人形计算字符研究领域中将 AI 生成的角色进行语境化和定位,我们构建了一个具有三个轴的设计空间:现实主义、交互性和体现(图2)。AI 生成的角色是虚拟的,表现出不同程度的交互性,并且比手工制作的角色(如三维 (3D) 或 CGI/VFX(计算机生成的图像/视觉效果)角色)更逼真。逼真度的提高是因为 AI 生成的角色可以利用大量人类图像和视频数据集来创建类似于照片级输入的输出。这与手动制作 CGI 角色形成鲜明对比,后者在很大程度上依赖于创作者在操纵单个 3D 参数(如眼睛形状或大小)以满足他们对现实主义的主观评价方面的专业知识。AI 生成的角色——鉴于它们的虚拟化身——与人形机器人等物理体现的角色不同(图2)。就提议的应用而言,我们确定了 AI 生成角色的两种子类型:(1)用户通过面部交换成为 AI 生成的角色;(2)用户与 AI 生成的角色进行交互,受控由另一个人或一个智能系统。我们认为这两种子类型都具有独特的优势,可以在各种环境中实现新颖的应用程序,如下所示:
图2:人工智能生成的角色作为一个领域可以沿着三个轴来表征:真实性、具体化和交互性。

第一个子类型允许一个人戴上生成的角色的脸,这可以帮助用户将自己想象成另一个人,并激励他们考虑反事实场景,获得新的视角,并允许他们通过角色扮演来试验想法。事实证明,虚拟地成为其他人可以提高客观思维能力,加强参与并降低歧视性偏见,我们看到这种子类型会导致类似的效果。第二个子类型允许用户与佩戴 AI 生成的面部或与具体智能系统的其他用户进行交互。后者可以通过描绘具有个人意义的导师、顾问或支持者,展示他们的面部特征、声音和举止来作为激励因素。这些角色的轻松可用性有可能扩大可能来自不受限制地访问个人选择的导师的好处。人工智能生成的角色还可以提供对教育内容的访问,无论位置或资源如何。例如,为应对教师短缺,新西兰成功测试了一个用于向小学生教授可持续性的虚拟角色。生成式 AI 可以支持健康信息、咨询、参与当今主题以及生活的许多其他方面,并且可以以真实人类在这些角色中不容易实现的方式为每个人进行个性化设置。
人工智能角色的两种子类型都可以通过多种形式(视频,3D,音频)和多种设备(例如智能手机,笔记本电脑或增强现实和虚拟现实耳机)进行访问,这可以提供新的参与和互动机会。角色描绘从全身到纯语音或纯文本,都可以具有不同程度的保真度和交互性。
4 人工智能生成的教育角色
学生在生命的前二十年中花费约15,000小时学习。因此,学习环境对个人产生巨大影响,进而对社会产生巨大影响。人工智能角色可用于为所有年龄段的人创建引人入胜的学习材料,从在课堂上提供内容到在博物馆,历史古迹甚至自然界等地点与内容互动。通过使用最先进的算法,可以将着名的历史,现代或虚构人物带入生活,让学习者参与科学家发现、历史人物叙述战斗或画家讨论他们的灵感和过程的生活体验。
4.1 使用AI生成的角色作为虚拟讲师
理想的学习环境以及改善师生关系,是能够成功促进学习动机的。研究表明,获得技术并不自动等同于提高动机或学习成果。相反,教师将技术整合到他们的课程计划中的方式,以及学生的心理过程和学习中涉及的情境因素,在动机方面起着重要作用。各种研究表明,在学习环境中,性格外貌可以对学习者的行为、态度和动机产生积极影响。与虚构人物和叙述相结合的学习经历也被证明是可以提高注意力和参与度。这在2020年初得到了证明,当时一位教授在以动漫角色的身份教授在线课程后,发现学生的热情高涨。他的学生特别喜欢动漫角色,他注意到学生参与度的全面提高以及他的本科和研究生课程的保留率也有显着提高。
这种身临其境的机会支持各种终身学习的新场景,包括从著名艺术家那里学习艺术和从世界上最好的厨师那里学习烹饪等。例如,在"‘Dalí Lives’"展览中,著名艺术家的生成版本与游客交谈,甚至在博物馆与他们自拍。据报道,这个互动装置可帮助人们与Dalí和他的作品更紧密地联系在一起。很容易想象其他艺术家也可通过生成的自我进入"生活",从而展示人工智能生成的角色的潜力以激励课堂内外的学习。
4.2 使用AI生成的角色作为虚拟学生形象
人工智能生成的角色在学习中的用途可以进一步扩大,不仅是教师,学生也可以扮演不同的角色。例如,一个学生可以成为爱因斯坦并尝试概述他的相对论,或者在历史课上,多个学生可以体验美国的开国元勋并参与起草宪法。研究人员已经证明,在虚拟现实中体现角色可以通过多种方式对人们的行为和能力产生积极影响,例如从支持表现力到减轻负面刻板印象,并提高解决问题的能力。此外,研究人员研究了在虚拟现实中的协作头脑风暴任务中体验“发明家”角色的工科学生,发现他们与受控条件下的学生相比,具有更高的流畅性和创意性。研究人员还发现,在虚拟现实中虚拟体验爱因斯坦角色可以提高认知任务表现并减少年龄偏见。受虚拟现实研究的推动,研究人员已经开始研究实时相机滤镜可能对体现和认知功能(如创造力)产生的影响。
4.3 使用AI生成的角色作为同辈人的形象
最后,除了让 AI 生成的角色作为教师或学生以获得更身临其境的学习体验之外,我们还设想使用生成的角色作为学习支持小组中的同伴。社会奖励例如来自他人的表扬,已被证明可以提高儿童的积极性、提高学习成绩和提高自我效能。来自机器人和虚拟代理等人工实体的赞美同样被证明可以提高人类的积极性和绩效。研究人员还表明,一个被设计为社交代理的机器人可以作为同伴(而不是作为导师或老师)与儿童互动,可以帮助学生通过讲故事游戏等社交活动提高他们的语言技能,在此期间,智能代理还会引入新词汇和并示范好的故事叙述技巧。这些例子表明,人工智能生成的角色不仅能通过他们的外表还能通过他们的互动和反馈来增强动力。
5 AI生成角色关于健康和幸福的应用
个人幸福在文献中被定义为一种幸福、满意和理想的存在状态,包括身体、心理、情感、心理、精神、社会和主观幸福。我们相信在未来,尤其是在资源有限的环境中,人工智能生成的角色将通过增加导师、治疗师或顾问提供的帮助来支持幸福的多个方面。
5.1 治疗的聊天机器人
2019 年,美国只有约45% 的有心理健康问题的人接受了心理咨询等治疗。在治疗师和精神科医生严重短缺的情况下,毫无意外,数字心理健康已成为一个价值数百万美元的产业,这行业目前拥有超过 10,000 个应用程序。Woebot 是 2017 年推出的会话代理(或聊天机器人),是少数基于人工智能的心理健康应用程序之一,用于部署认知行为疗法 (CBT) 的原理,CBT通常用于治疗焦虑和抑郁。2020 年,有十分之四的美国成年人有焦虑或抑郁,Woebot 在 COVID-19 大流行期间(2020 年 3 月至 2021 年 6 月)40的每日用户数量翻了一番,达到数万。
与 Woebot 等代理的对话已被证明类似于人类对话并产生与互动者的情感纽带。对话代理的示例包括(但不限于)基于文本的聊天机器人,它们可以基于语音的对话界面进行随意的对话,例如 Apple Siri、Google Assistant 或 Amazon Alexa,可对问题和指令作出响应;和具体化身的对话代理,其中涉及虚拟角色(例如,化身、虚拟代理或逼真的角色)模拟具有语言和非语言行为的面对面对话功能。基于文本的会话代理在支持心理健康和福祉方面的潜力已在以前的工作中被证明是重要的:在精神病学和心理健康咨询中使用会话代理(聊天机器人或实体代理)的随机对照试验与不活跃的对照组相比,证明心理压力显著减少。作为另一种形式的社会支持,研究人员提出了会话代理在减轻孤独感(一个日益严重的公共卫生问题)方面的潜在好处。 我们可以设想具体化的聊天机器人或对话式 AI 代理,它们能够通过基于语音的对话和面部表情提供支持,作为当今聊天机器人基于文本消息的对话的进一步发展。通过将会话代理与 AI 生成的角色相结合,有可能实现更深入的个性化和增加信任。早期的研究表明,医生和治疗师的特征,例如他们的性别,会导致治疗结果的显着差异。事实上,一项研究发现,当人们与同性别的治疗师配对时,患者对治疗关系的满意度更高,而另一项研究发现个人特征与对医生的信任密切相关。同样,与计算机生成的角色互动也被发现可以建立更好的信任水平并支持开放式交流。在一项针对饮食失调患者的研究中,治疗师的卡通化身被证明可以促进参与者的更具开放性。
经验证据表明,会话代理有可能引起积极的行为和认知变化。通过将会话代理与 AI 生成的角色相结合,个性化的健身应用程序可以使用户能够与个性化的 AI 生成的教练或锻炼伙伴互动并获得指导,而这些教练或锻炼伙伴类似于是他们认为激励或视为榜样的人。
5.2 暴露疗法
虚拟现实已被证明可以有效地引导与现实世界体验相匹配的情绪反应,使其在暴露治疗中极具价值。在虚拟环境中,患者会经历与在同等现实生活中相似的生理症状和恐惧,从而促进习惯化过程。例如,一项基于虚拟现实的研究发现,随着年龄增长而呈现的自己的用户“更倾向于选择延迟的金钱奖励而不是直接的奖励” 。同样,在一项对患有痴呆症的老年人的研究中,暴露于熟悉经历(例如先前的关系)的患者被证明可以最大限度地发挥虚拟现实的功能。
基于这些结果,我们认为 AI 生成的角色可能对暴露疗法有用。让某人接触人工智能生成的自己,例如,更年轻的自己,可以对心理健康产生积极影响,并且已经证明可以提高警觉性、积极参与感和总体幸福感。
5.3留存记忆
每一种人类文化都发展出与死亡相关的实践和仪式,并表明其对活着的人的重要性。数字世界越来越多地与这些实践相交叉。例如,Facebook 等数字平台已经使人们能够将已故朋友和家人的个人资料作为“数字坟墓”重新访问。在过去一年左右的时间里,Zoom 还为因 COVID-19 而无法亲自参加的家庭成员提供了线上追悼会和葬礼。传统上,人机交互研究探索了人类生命周期的各个方面,在过去十年中,人们对技术的新要求是支持诸如“纪念合作行为、数字数据遗赠或对数字残余的群体反思”等实践。我们相信,通过 AI 生成的角色表达生活记忆概念可以提供一种新形式的“技术传家宝”,是一种能反思和创造意义的新方式,例如添加上死者的现有纪念品,例如照片、视频和其他物品。
最近的一个例子包括一位 AI 开发人员为她已故的朋友创建了一个聊天机器人。在与死者的其他朋友分享聊天机器人后,她声称,对许多人来说,与机器人互动具有治疗作用,并深刻影响了认识他的人的生活。他的母亲告诉她,‘我越来越了解他了。这给人一种他现在在这里的错觉。另一个例子是家谱公司 MyHeritage 提供的 The Deep Nostalgia 服务,该服务部署了人工智能驱动的视频重演技术,在静态照片中为已故家庭成员和祖先的面部动画制作动画,并创建高质量、逼真的移动视频 ( https:/ /www.myheritage.com/deep-nostalgia)。Eterni.me 也有类似的目标,即通过与逝者的互动对话来创造和保存记忆,并已吸引了超过 30,000 人等待为朋友和家人数字化永生,其中包括患有癌症和阿尔茨海默氏症等绝症的患者。摄影测量法被用于最近对已故儿童的另一项尝试活动,以使父母能够记住他们的孩子并应对他们的创伤性损失。现在技术可以保存大量数据,从文本和照片到视频和语音数据。尽管像Black Mirror[59]等虚构作品中所探讨的那样,在死亡之外"以数字方式保存"个人似乎存在争议。但这些人工智能系统可以更有效地支持悲伤情绪过程,并加快各个阶段的过程,包括否认,愤怒,讨价还价,抑郁和接受等情绪"。
5.4辅助技术的发展
生成媒体可以使因受伤或肌萎缩侧索硬化症 (ALS) 等疾病而导致面部畸形或无法言语的人在数字媒介交互中恢复他们的言语或面部表情。研究人员最近开发了无创性、实时无声语音系统,以帮助患有多发性硬化症和 ALS 等语言障碍的患者以自然语言进行交流,仅通过在口中表达单词或句子而不产生任何声音。尽管这项工作使患者能够通过标准语音合成器恢复接近自然的语音,但它通过使用非个人通用语音来实现这一点,人工智能生成的面部和语音复制可以让他们不仅恢复语音,还可以恢复自己的声音。这个想法是由一位被诊断患有运动神经元疾病的工程师实现的。由于预料到疾病会导致肌肉退化,他开发了一个具有面部特征和声音的栩栩如生的虚拟形象,并根据疾病进展之前记录的数据进行训练,他现在将其应用于数字通信。
6 人工智能从文本、音频、视频中生成角色
我们提出了一个统一的管道,使教育工作者和个人能够轻松地生成可用于教育、健康和其他应用的会说话的角色。该管道允许根据真实和虚构的人形角色,通过面部手势、声音和动作轻松创建现实内容。它结合了最先进的生成式AI模型,可将文本转换为音频,音频转换为视频,视频转换为视频,并可用于根据可用数据创建各种音频和视频输出。
使用的模型如下:VOCA(语音操作角色动画)、FLAME(通过关节模型和表情学习面部)、语音驱动面部动画和一阶运动模型。 在生成过程之后,我们的统一管道使用可追溯的水印标记生成的结果,以帮助人们识别数据是生成的,了解输出是如何生成的,并将其与真实的视频内容区分开来。我们的管道与现有的消费者应用程序不同,它允许任何类型的输入媒体生成视频和实时面部过滤器,同时保持开源。这使教育工作者、治疗师、卫生官员和其他人在使用和创建 AI 生成的角色方面拥有更高程度的自主权。
6.1视频到视频
为了生成视频输出,用户提供了模板视频和目标角色面部的图像。该算法将视频模板中的特征映射到目标角色,以创建逼真的视频。为了映射特征,我们的管道使用最先进的一阶运动模型生成器网络(https://github.com/alievk/avatarify-python),它利用自监督学习算法来确定面部动画的局部变换以在输出中生成逼真的复杂运动(https://github.com/alievk/avatarify-python)。为了生成实时使用的面部过滤器,用户的网络摄像头流被用作输入(图4和图3的顶部)。
图3:我们的统一管道允许用户提供视频、语音或文本作为输入,以生成视频和实时面部过滤器。

输出带有水印,用于可追溯性(可追溯性部分),以便由人工和算法进行检测。底部中心的面部图像经ref许可复制,Springer Nature,爱因斯坦的照片取自Pixabay。
6.2语音到视频
鉴于观看没有音频的生成视频不太可能被认为是真实的,因此语音是生成输出的关键元素。为了向生成的视频添加音频,用户提供录制的语音剪辑来激活生成的角色的语音。如图3所示,我们探索了两种在生成最终视频和音频输出之前将语音剪辑输入转换为中间面部动画的途径。
在这两种方法中,第一种方法创建了一个 3D 中介说话头,它可以自动与给定的语音剪辑进行口型同步。为此,我们首先使用 VOCA,一种在人脸 4D 扫描和说话者同步语音上训练的深度神经网络,在中性 3D 人脸上自动生成口型同步动画。接下来,我们使用 FLAME(一种广义的 3D 面部模型)来对在前面的步骤中生成的中性面部进行动画处理。FLAME 模型允许创建者手动自定义生成的 3D 面部的表情和动作,而 VOCA 自动将嘴巴与给定的语音片段同步。
第二种方法利用基于时间 GAN [65]的端到端语音驱动的面部动画系统。实时GAN 依赖于一个生成器和三个鉴别器(帧、序列和同步鉴别器),它们仅使用人的静止 2D 图像和语音剪辑作为输入来驱动自动口型同步说话头的生成。第二种方法的优点是它能够合成自然的面部表情,例如眨眼和眉毛运动,而无需手动定制。
6.3文本到视频
文本而不是使用录制的语音作为输入,而是用于生成语音剪辑并进一步使用我们的管道。如果用户不想使用自己的声音或没有角色的预录音频,他们可以简单地输入一个句子、短语或段落来生成角色的语音。例如,虚拟的爱因斯坦可以用爱因斯坦自己的声音或Elsa的声音或用正在操纵爱因斯坦脸的老师的声音说话。为了合成生成的角色语音,我们使用了最先进的公开实时语音克隆算法,这允许使用几秒钟的参考音频,使用文本数据合成该说话者声音中的新语音。合成后,音频随后用于语音到视频部分中描述的中间面部动画合成步骤。
6.4可追踪性
鉴于生成 AI 的内容有可能误导消费者,重要的是留下痕迹以使人们能够识别、调查和揭穿生成媒体的真实性。为确保安全和合乎道德地使用我们的管道,我们采用了人和机器可追溯性方法。我们的人类可追溯性技术受到其他媒体范式(如文本和视频)中的制造检测技术的启发,并涉及将可感知的痕迹(如作者签名、可区分的外观或小型编辑人工制品)纳入生成的媒体。另一方面,机器可追溯性涉及合并人类无法察觉的痕迹,例如只有机器才能检测到的不可见噪声。在我们的管道中,我们通过可视化标记生成的内容来实现人类可追溯性(在我们的示例中,使用“Gen”表示“生成”以及目标图像和驱动视频文件的名称,“Einstein.png”和“Pat_Video.mp4” ) 和使用对抗性噪声的机器可追溯性。
我们对可追溯性的实施与通常使用的方法形成对比,例如基于深度学习的检测器,在内容创建后充当事后检测器。由于研究人员担心,鉴于技术进步的快速步伐,检测算法将始终落后,因此我们的方法不同于典型的检测方法,通过在生成过程中标记内容来确保可追溯性。
6.5管道的应用
为了演示我们管道的使用,我们在麻省理工学院 (MIT) 的在线课程中对生成角色进行了实验。首先,我们与麻省理工学院教授合作,为他的音乐界面课程创建了 Johann Sebastian Bach(图4b,底行)的实时 AI 合成版本(子类型 1),他与著名的大提琴家兼特邀演讲者马友友进行现场对话,看到他们讨论音乐的现场栩栩如生,让所有上课的人都为之着迷,随后对巴赫的作品进行了热烈的讨论。然后,我们根据爱因斯坦对题为“科学的共同语言”的论文的录音制作了一段视频(图3) 并在麻省理工学院的另一堂课上展示了该视频,以展示将仅以音频或书面格式提供的信息转换为视频格式是多么容易,这种格式可以吸引更多的视觉感官,因此可能对学习者更具吸引力。
图4:在虚拟教室环境中使用人工智能生成的角色。

a,这个视角的作者之一(下排)成为人工智能生成的乔治·华盛顿(上排)。2020年秋天,
b,约翰·塞巴斯蒂安·巴赫(下排)与马友友(上排)在“ARTS@ML”在线课堂上互动的视角的作者之一。
c,图片a(上),吉尔伯特·斯图亚特创作的乔治·华盛顿肖像,图片由克拉克艺术学院提供(clarkart.edu). Panel
7 社会影响
从历史上看,大多数新技术都引发了各种各样的伦理问题,从古怪(认为女性的身体在火车上无法以每小时 50 英里的速度行驶)到令人恐惧的(认为第一部电话破坏了面对面的交流) 和真实的(汽车将改变景观)。一些道德问题导致全球政策努力控制新技术(如核电),而另一些则导致较小规模的法规和法律。
随着人工智能技术的快速发展,对隐私和监视、行为操纵、先天偏见以及责任和决策授权的担忧都被提出。
在这个观点中,我们设想了 AI 生成角色的最新进展如何能够轻松地为新颖的应用程序创建和动画人物的逼真数字描绘。尽管这项技术在学习、健康和福祉等领域带来了令人兴奋的可能性,但人工智能生成的媒体可以并且已经被用于恶意目的。例如,名人面孔已被替换为色情视频,美国总统已被要求支持犯罪欺骗,普通民众已成为现实的假新闻和骚扰(或“拖钓”)的目标,其程度超出了他们的能力范围。人体检测。鉴于隐私泄露、诽谤、操纵和错误信息等这些真正挑战,承认和解决道德和法律问题对于将这项技术积极融入社会至关重要。
7.1道德伦理考量
关于 AI 生成媒体伦理的讨论是一场持续的、广泛的对话,从个人使用到国家政策等不同规模。本次讨论的目的是展示该技术可能被滥用的潜在方式,并促进在设计 AI 生成的角色时要考虑的因素。在本节中,我们承认误用可能性的复杂性,并强调一些问题作为警示事项,我们鼓励人们在健康和教育环境中使用 AI 生成的字符时要考虑这些问题。我们进一步承认,这里提出的问题可能不是所有潜在滥用 AI 生成角色的全部内容。
对人物或事件的错误描述
我们获取知识的能力取决于来自我们认为可靠的来源信息。尽管生成式 AI 是使我们能够合成帮助和吸引人们获取新知识的媒体,但此类媒体也可能因不准确地描绘人物和扭曲专家意见而被滥用。这在教育和健康等高影响领域尤其重要,在这些领域中,错误描述会对个人产生不利影响。人工智能生成的角色可以描绘出像阿尔伯特·爱因斯坦这样的历史和值得信赖的人物。另一反面,也有可能改变和扭曲历史事件,如 2020 年的装置“万一月球灾难”所示. 这个装置旨在提高公众对人工智能产生的媒体和错误信息的认识,错误地描绘了尼克松发表演讲,称阿波罗 11 号机组人员在登月任务中去世。生成的媒体可用于描述从未发生过的相遇、对话、行为和事件。这种对历史事件或可信人物的错误描述有传播错误信息和破坏媒体信任的风险。
一些有害的行为
除了角色的错误行为以外,人工智能生成角色的另一个潜在滥用可能是让他们支持和认可有害行为(https://www.pnas.org/content/118/47/e2114388118)。例如,可以让著名的官方卫生人物反对 COVID-19 疫苗接种。在一个案例研究中,研究人员关注了一个模仿迪斯尼公主支持自残的 Twitter 帐户,以举例说明假冒心爱角色的负面影响。除其他外,该帐户分享并赞扬了患有饮食失调和自我伤害的人的尸体照片,例如割伤自己留下的疤痕。随着 YouTube 等视频平台上的大量内容被儿童[80]消费,促进有害行为的可识别角色可能会产生严重后果,例如饮食失调和自杀意念的发展。此外,人工智能生成的角色可能会无意中造成伤害。例如,想象一个使用合成的教室,让学生作为即将举行的选举的总统候选人相互辩论。如果这些学生描述以某种方式进入公共领域,某些人可能会认为它们是真实的。
会引起人们对于AI生成角色的过渡依赖
可以个性化与 AI 角色的交互,来增加学习和信息消费环境中的参与度和动力。在未来,角色可能会被高度个性化,以至于他们比真实的人类指导和互动更受欢迎。社交媒体的使用已经与感知到的社会越来越孤立。人际关系的减少会对心理健康、身体健康和死亡风险产生不利影响。与数字人类的过度互动可能最终会对学习和交流产生负面影响,其方式类似于过度玩电子游戏和使用电脑与抑郁症有关。一种解决方案是将与 AI 角色的交互限制在需要的情况下,而不是替换可以与真人进行的交互(例如,填补发展中国家的教师空白或在与人类治疗师的会话之间为用户提供支持)。
可能会取代人际关系
尽管我们已经介绍了 AI 生成的角色在教学、指导和治疗方面的应用,但我们想强调的是,它们应该用于增强当前的实践,而不是取代它们。例如,尽管用 AI 系统取代教师可能在经济上具有激励作用,但研究表明,师生关系是为学生积极发展和学习创造环境的关键因素。因此,用 AI 生成的角色代替老师可能会危及学生与老师和导师建立真正关系的能力,这反过来可能会影响学习动机并导致破坏性行为。此外,目前用于在线学习的视频会议系统已被证明缺乏情感依恋并导致无效的学习体验。尽管教师和治疗师等人力资源并不总是在资源匮乏的社区中可用,但基于这些发现,我们确实认为,在当前状态下,人工智能生成的角色主要用作补充工具而不是替代工具,这一点很重要。
对AI生成已故人的影像可能会引起伦理上的问题
根据死者创建 AI 生成的角色是一个极具争议的用例,具有复杂而微妙的个人和道德影响。一方面,将一个人的特征、知识、故事和智慧外化并烙印在一件可以代代相传的人工制品(例如,个人日记、旧食谱、一件衣服或配饰)中的想法是人类作为一个物种的一个决定性特征。我们创造人工制品来记住或被对我们重要的人记住。另一方面,使用技术将人转换为计算机代码和数据模式的想法可以被视为简化和非人性化。这种道德困境可能取决于分析问题的人的解释、效用和文化背景。今天,Eterni.me 和 Replika 已经构建了聊天机器人,使人们能够在死后获得“生命” ,Eterni.me专门研究死后AI生成的角色,并引起了希望留下自己的AI副本的癌症患者的巨大兴趣。未来的研究需要调查这种交互方式对记忆保存的影响和后果。关于生成的角色是否可以对死者保持真实以及它们是否可能与真人混淆,这些问题仍然存在。未来,我们的遗嘱可能不仅涉及个人的实物财产,还涉及他们的数字身份,并声明一个人是否希望他或她的数据被用作人工智能生成的角色“继续存在”以及以何种方式存在。然而,关于死者数字复制品的问题是家人和朋友都在讨论的问题,
7.2 法律问题
在本节中,我们将讨论AI生成角色的法律考虑因素,这些角色涉及许多个人的权利和后果:使用身份的目标个人(以及可能活着或已故),其数据用于训练AI模型的个人,构建和训练AI角色生成的模型的个人, 使用模型创建角色的人以及将查看或与其他人制作的 AI 生成角色进行交互的人。
对个人隐私权和公开权的侵犯
演员克尔斯滕·贝尔(Kirsten Bell)是 deepfake 色情内容的受害者,使用人工智能生成的媒体将某人的脸放在色情视频或图像中是对性隐私的侵犯,可能会产生深远的影响。受害者报告经历了深刻的心理困扰,包括焦虑、抑郁、食欲不振和自杀意念。在最近的一项评估公众对 deepfake 态度的研究中,未经同意制作的色情 deepfake 视频极其有害,并且非常希望将其定为犯罪。将色情 deepfakes 标记为虚构并不能减轻视频的不法性。相比之下,非色情 deepfakes 在被贴上虚构标签或不描述非法吸毒等固有诽谤行为时,被视为不法行为大大减少。此外,将生成的色情视频标记为虚构并不能有效消除这种伤害,因为目标的身份仍在被盗用。我们清楚地看到,未经同意使用人工智能生成的媒体对于负面应用是不道德的。然而,当涉及到积极的使用案例时,仍然存在关于能否同意使用必要性的争论,例如使用大卫贝克汉姆进行疟疾宣传活动或使用像达利这样的历史人物与博物馆参观者互动。如果这个人去世,同意会改变吗?他们的合法身份会消失还是与他们的财产有关?谁位历史人物提供同意?由于这些考虑因素可能因上下文和应用程序而异,因此随着 AI 生成的角色进入主流交流模式,它们很可能会继续发展。
如何确定AI生成角色的责任分配和所属权分配
如果 AI 生成的角色刻画错误或造成伤害,谁该受到责备?是与 AI 生成的角色互动的人吗?还是创造了人工智能的程序员?或是被描绘的那个人?确定 AI 生成的角色的责任是一个重要的话题,因为教师、卫生工作者、机构和其他人需要宣传与 AI 生成的内容相关的索赔的潜在责任。如果 AI 生成的角色以某种方式侵犯了某人的隐私、诽谤他们或传播错误信息,则必须确定谁应该承担责任。尽管一些现行法律适用,但其他法律法规不明确且不足以处理此类情况。
在最近发表的一篇关于人工智能生成内容所有权的文章中,有人认为,为了达成责任指导原则,我们必须区分不同个人在创作过程中对“创造力、劳动或智力努力”的贡献。例如,如果对 AI 生成的内容的控制受到创建算法的程序员的严格限制,则程序员——通常比用户——被认为对内容负责(司法管辖区之间存在差异)。相反,在内容生成有很大自由度的情况下,用户可能被认为比程序员更有责任。
AI 生成的角色为生成媒体的责任挑战增加了一层额外的层次,因为它们通常非常逼真(与艺术相比),本质上没有标签和虚幻,甚至很难确定角色是否是以编程方式创建的。在这个观点中,我们认为人工智能生成的媒体的标签可以实现一些关于谁参与了生成过程、在多大程度上以及使用什么来源来生成输出的可追溯性。其他研究人员也提出了类似的论点,指出这种标签可以通过将某物明确标记为人工智能生成来极大地帮助减轻责任问题。
但是,责任可以那么容易地解决吗?例如,许多关于人们对错误信息的敏感性的心理学研究表明,持续暴露于明确标记的错误信息仍然会对个人的信念产生不利影响。同样,在学习和健康方面使用人工智能生成的媒体,应该鼓励人们超越可追溯性,并考虑特定的生成内容可能产生的社会和个人影响。
8 结论
在这个观点中,我们讨论了 AI 生成的角色在教育和福祉中的有益应用,将它们合成到这些易于使用领域的渠道,以及关于使用 AI 生成的角色的社会影响的讨论.。我们预见未来,生成式 AI 将在我们的日常生活中无处不在,作为不断增长的人机交互领域的一部分,但这并非没有挑战,除了教育和福祉领域,这些技术还可能在许多其他领域产生积极影响,包括娱乐、创造力和安全。尽管目前的算法远非完美,但它们为艺术家和电影制作人开辟了新的创作机会,如无需好莱坞规模的预算和时间表。尽管好莱坞通常使用 CGI 来使已故演员复活或使明星减龄,但粉丝们一直在尝试用令人信服的 AI 生成版本替换电影(例如《星球大战》)中的 CGI 角色。随着这些版本越来越受欢迎,迪士尼工作室自己也在探索神经人脸交换技术,大型电影制作可能会从手动和耗时的 CGI 转向算法电影制作。随着 AI 生成的角色越来越为公众所熟悉,我们还预计它们将与机器人技术、合成生物学和制造业的创新相结合,以支持生成 AI 在物理世界中的存在。公司已经通过制作与我们的生活紧密结合的无处不在的角色来实现这一愿景。然而,伴随着这些机会而来的是潜在的误用。围绕人工智能生成的合成媒体的挑战通常涉及隐私、言论自由和人类身份基本概念的多维问题。人工智能生成的角色可能会歪曲人物和事件、激发有害行为、导致过度使用的依赖、取代社会联系和促进死者的数字存在。将这项技术整合到社会实践中需要仔细和批判性地考虑隐私、责任和可追溯性等问题。这将需要政府、行业、研究人员和学术机构之间的合作,以制定新的监管机制和保障措施,以应对技术、道德和法律方面的挑战。
---煤油灯科技victorlamp.com翻译整理---