
好莱坞刻画的人工智能(AI)噩梦就像一部科幻大片描绘的那样:机器人获得了类人的智能,获得了知觉,不可避免地成为企图毁灭人类的邪恶霸主。这种叙述利用了我们对技术与生俱来的恐惧,反映了通常伴随新技术发展的深刻变化。
然而正如机器学习工程师、2019 年出版的小说《The Quantum Price》的作者 Malcolm Murdock 所说,“人工智能不必有知觉就能杀死我们所有人。在有知觉的 AI 成为问题之前,还有很多其他场景会消灭我们。”
在对 AI 专家的采访中,IEEE Spectrum 列举了 AI 在现实世界中六种最坏的情况,它们比电影描述的要平凡得多。但是它们同样是反乌托邦的,而且大多数情况并不需要恶毒的独裁者。相反的,如果没有采取任何措施阻止它们的话,它们可能会自然而然地发生,有序地展开。为了防止这些最坏的情况发生,我们必须放弃我们对目前 AI 的主流文化观念,认真对待它带来的意外后果。

1.当虚构定义了现实,深度伪造之类的技术会导致现实的后果。
不必要的灾难将会出现如果我们允许虚幻来定义我们的现实,但是,当我们在数字世界中已分辨不出真实和虚假的时候,还有什么选择呢?
在一个令人可怕的场景中,深度伪造的兴起(由先进的机器学习工具生成的虚假图像、视频、音频和文本),有一天可能会导致国家安全决策者基于虚假信息采取真实世界的行动,从而导致重大危机甚至引起一场战争。
CSET高级研究员Andrew Lohn说:“人工智能系统现在能够大规模产生虚假信息,制造更多数量和种类的假信息,这些信息随着时间的推移,影响力会越来越大。如果不能及时确认信息的有效性,也会让领导者犹豫是否采取行动。
德国研究员Marina Favaro也指出,深度伪造在默认情况下会损害我们对信息流的信任。而且后面不管采不采取行动都有可能给世界带来灾难性的后果。
2.逐底竞争的危险性,AI 技术发展过程中需要注重安全而不是一味追求速度。
当谈到人工智能和国家安全时,速度既是问题也是关键。由于人工智能系统为用户提供了更大的速度优势,第一批开发应用于军事的国家将获得战略优势。但是,在这个过程中也可能会牺牲掉一些设计上的原则。
CSET的战略总监Helen Toner表示,智能系统中最微小的缺陷有可能被黑客利用破解掉,危机就可能从一个无关紧要的点开始,导致所有通信中断,导致人们恐慌,经济活动陷入停顿。再加上其他的误判,可能会导致局势失控。
瑞典研究所的高级研究员Vincent Boulanin警告说,当有的大国为了抢占先机而走捷径时,重大灾难就可能发生。如果一个国家将速度置于安全或监督之上,这将成为一场危险的竞争。例如,为了获得发展速度的优势,国家领导人可能会倾向于把指挥和控制决定权交给别人,取消人类对智能机器的人工监督。在这种情况下,即使是无人授权的导弹防御系统自动发射,也可能产生意想不到的意外并导致升级为核战争。
3.隐私和自由意志的终结。
乔治城大学的 Andrew Lohn 指出,“随着数据监视和跟踪的兴起,我们正在进入危险和未知的领域,我们对其潜在的影响几乎一无所知。”
今天,人工智能的系统可以预测我们将购买哪些产品,我们将观看哪些娱乐节目,以及我们将点击哪些链接。当这些平台比我们了解自己更了解我们时,我们可能不会注意到这样潜移默化的改变,但事实上它剥夺了我们的自由意志,并使我们受到外部力量的控制。

4.人类身处算法创造的斯金纳箱(Skinner Box)
人类生活在斯金纳盒子里,社交媒体用户已经成为实验室实验中的老鼠,粘在智能手机的屏幕上,被迫牺牲更多宝贵的时间和注意力,CSET的Helen Toner说:"算法经过优化,尽可能让用户长时间地留在平台上。Malcolm Murdock解释说,通过以点赞、评论和关注的交互形式提供奖励,算法会缩短我们大脑的工作方式,给我们有不可抗拒的参与感。为了广告利润最大化,平添将我们的注意力从我们的工作,家人和朋友,甚至我们的爱好上夺走。我们在这些平台上花费的时间越多,我们在追求积极高效和充实的生活上花的时间就越少。
5.AI 设计的暴政,现有 AI 系统有着自身的局限性和偏见,它可能会限制人类而不是解放人类。
在人工智能兴起之前,我们日常生活中常见物品的设计往往是为了迎合特定类型的人。例如汽车、手机,甚至办公环境的温度设置都是为适合中等身材的男性而设置的,因为,这让包括女性在内的各种体型的人处于非常不利的地位,有时这些差异会面临更大的生命危险。当独特的个体被边缘化被忽视和排斥时,人工智能就会演变成卡夫卡式的看门人了,以至于提供不了特定的服务比如工作医疗保健等。

6.过度监管 AI 会限制它给人类带来的好处。
DeepMind 的 AlphaFold 程序在预测氨基酸如何折叠成蛋白质方面取得了重大突破, 使科学家能够识别 98.5% 的人类蛋白质的结构. 这一里程碑将为生命科学的快速发展奠定坚实的基础。这样就可以使用人工智能系统来确定疾病的新治疗方法。然而,政府为防止人工智能出现最坏情况而采取的下意识监管行动也可能适得其反,并产生意想不到的负面后果,在这种情况下,我们面对这一巨大技术的力量变得如此恐惧,以至于我们拒绝利用它为世界带来实际好处。
原文链接:https://spectrum.ieee.org/ai-worst-case-scenarios









