警告声不断从各个方面传来：人工智能对人类构成了存在性的风险，必须在为时已晚之前加以限制。

不过，这些灾难场景究竟是什么，机器又是如何能够摧毁人类的呢？

毁灭性的回形针

大多数灾难场景始于同一地点：机器将超越人类的能力，逃脱人类的控制，并拒绝被关闭。

人工智能学者Yoshua Bengio在本月的一次活动中表示：“一旦我们拥有了具有自我保护目标的机器，我们将陷入麻烦中。”

但是因为这些机器尚未存在，想象它们如何会对人类造成厄运，常常落在哲学和科幻的领域内。

哲学家尼克·博斯特罗姆谈到了一个他所认为的“智能爆炸”，他表示当超级智能机器开始设计自己的机器时将会发生这种情况。

他通过一个造纸夹生产工厂的故事来阐明这个观点。

AI被赋予了最终目标，即最大化回形针的产量，因此它会通过先将地球，然后逐渐将可观测宇宙的更大部分转化为回形针来实现目标。

博斯特罗姆的理念被许多人视为科幻，主要是因为他另外提出了人类是计算机模拟以及支持接近优生学理论的观点，这些理论多数被人们质疑。

他最近还因为1990年代发出的种族主义信息被揭露而道了歉。

然而，他关于人工智能的思想产生了巨大的影响，不仅激发了埃隆·马斯克和史蒂芬·霍金教授的灵感。

终结者

如果超级智能机器要毁灭人类，那么它们无疑需要具备一个有形的实体。

阿诺德·施瓦辛格在电影《终结者》中，所饰演的红眼机器人是由未来派遣来终结人类抵抗的人工智能，这一形象令人着迷，尤其对媒体而言。

但专家们对这个想法嗤之以鼻。

“停止杀手机器人”运动组织在2021年的报告中写道：“这个科幻概念在未来几十年内，甚至永远都不太可能成为现实。”

然而，该团体警告称，赋予机器决定生死的权力是一种存在风险。

来自加拿大滑铁卢大学的机器人专家凯尔斯汀·道滕汉淡化了这些担忧。

她告诉法新社，人工智能很可能无法赋予机器更高的推理能力，或让它们充满杀害人类的欲望。

“机器人并非邪恶，”她说道，尽管她承认程序员可以让它们做出邪恶的事情来。”

更致命的化学物质

“一个更为隐秘的科幻场景是，‘不良行为者’利用人工智能来创造毒素或新病毒，并将其释放到世界上。”

GPT-3这样的大型语言模型，它被用于创建ChatGPT，事实证明，它在创造可怕的新化学制剂方面极其出色。

一群科学家正在利用人工智能来帮助发现新药物。他们进行了一个实验，将人工智能进行调整，以搜索有害分子。

据《自然机器智能杂志》报道，他们在不到六个小时的时间内成功生成了4万种潜在有毒物质。

来自柏林赫蒂学院的人工智能专家乔安娜·布赖森表示，她可以想象有人会找到一种更快速地传播像炭疽那样的毒素的方式。

她告诉法新社：“但这并非存在性威胁，只是一种可怕而恶劣的武器。”

物种超越

好莱坞的规则指导着那些具有时代性的灾难必须是突然、巨大和戏剧化的，但如果人类的终结是缓慢、安静且不是决定性的呢？

哲学家休·普赖斯在剑桥大学存在风险研究中心的推广视频中说道:“在最悲观的情况下，我们的物种可能会在没有后继者的情况下终结。”

但他说，有一种“较少凄凉的可能性”，即通过先进技术增强的人类可以幸存下来。

他说："纯粹的生物物种最终将终结，因为没有人类不具备这项启迪性技术的存在。"

想象中的世界末日往往以进化的观点来构建。

2014年，斯蒂芬·霍金在一次访问中提出观点，认为最终我们人类将无法再与人工智能机器竞争，并告诉英国广播公司：“这可能标志着人类的结束。”

杰弗里·辛顿，他在谷歌（Google）工作期间一直致力于构建与人类大脑相似的机器，最近谈到“超级智能”以一种类似的方式超越人类。

他最近告诉美国广播公司PBS，有可能"人类只是智慧演化过程中的短暂阶段"。