科技专家、硅谷亿万富翁和普通美国人都表达了他们的担忧，他们担心人工智能可能会失控并导致人类的衰落。现在，人工智能安全中心的研究人员详细介绍了人工智能给世界带来的“灾难性”风险。
人工智能安全中心（CAIS）的研究人员在最近一篇题为《灾难性人工智能风险概述》的论文中写道：“我们所知道的世界并不正常。我们理所当然地认为，我们可以与千里之外的人即时交谈，在不到一天的时间内飞到世界的另一端，并通过我们随身携带的设备获取海量积累的知识。”
论文写道，这种现实对于几个世纪前的人们来说是“不可思议的”，甚至在几十年前仍然是遥不可及的。研究人员指出，历史上已经出现了“加速发展”的模式。
研究人员继续说道： “从人在地球上出现到农业革命，已经过去了数十万年。 那时，工业革命已经过去了数千年。现在，仅仅几个世纪后，人工智能（AI）革命就开始了。历史的前进并不是一成不变的，而是正在迅速加速。”
CAIS 是一家技术非营利组织，致力于通过开展安全研究、建立人工智能安全研究人员领域以及倡导安全标准来减少“与人工智能相关的社会规模风险”，同时也承认人工智能有能力造福世界。
这项研究背后的 CAIS 领导人、该非营利组织的主管Dan Hendrycks，将灾难性人工智能风险的主要来源分为四个类别，其中包括：恶意使用、人工智能竞赛本身、组织风险和流氓人工智能。
Hendrycks和他的同事Mantas Mazeika和Thomas Woodside写道：“与所有强大的技术一样，人工智能必须以极大的责任来管理风险并利用其潜力来改善社会。然而，关于灾难性或存在性人工智能风险可能如何发生或解决的可获取信息有限。”
一、恶意使用
CAIS 专家的研究将人工智能的恶意使用定义为不良行为者利用该技术造成“广泛的伤害”，例如通过生物恐怖主义、错误信息和宣传，或“故意传播不受控制的人工智能代理”。
研究人员指出在1995年日本发生的一起事件，当时末日邪教奥姆真理教在东京的地铁车厢上散布了一种无味无色的液体。在该邪教试图引发世界末日的过程中，这种液体最终导致 13 人死亡、5,800 人受伤。
时间快进近 30 年，人工智能有可能被用来制造一种生物武器，如果不法分子掌握了这项技术，可能会对人类造成毁灭性影响。CAIS 研究人员提出了一个假设，即一个研究团队开源了一个“具有生物研究能力的人工智能系统”，旨在拯救生命，但实际上很有可能被不良行为者重新利用来制造生物武器。
恶意使用可能导致不良行为者制造生物工程流行病，利用人工智能制造新的、更强大的化学和生物武器，甚至释放经过训练来颠覆生活的“流氓人工智能”系统。
研究人员建议：“为了降低这些风险，我们建议改善生物安全，限制对最危险的人工智能模型的访问，并让人工智能开发人员对其人工智能系统造成的损害承担法律责任。”
二、人工智能竞赛
研究人员将人工智能竞赛定义为可能刺激政府和企业“加快人工智能发展并将控制权让给人工智能系统”的竞争，并将这场竞赛与冷战时期美国和苏联加紧制造核武器的竞赛进行比较。
“人工智能的巨大潜力给争夺权力和影响力的全球参与者带来了竞争压力。这场‘人工智能竞赛’是由国家和企业推动的，他们认为必须迅速构建和部署人工智能以确保自己的地位和生存。优先考虑全球风险，这种动态使得人工智能的发展更有可能产生危险的结果，”研究论文概述道。
在军事领域，人工智能竞赛可能会转化为“更具破坏性的战争、意外使用或失去控制的可能性，以及恶意行为者为了自己的目的而利用这些技术的前景”，因为人工智能作为一种有用的军事武器受到越来越多的关注。
例如，致命的自主武器可以在没有人为干预的情况下杀死目标，同时简化准确性和决策时间。研究人员表示，这些武器可能会变得优于人类，军队可以将生死攸关的情况委托给人工智能系统，这可能会增加战争的可能性。
研究人员解释说：“尽管行走、射击机器人尚未取代战场上的士兵，但技术正在以多种方式融合，可能在不久的将来使这成为可能。”
他们补充说：“派遣军队参战是一个严肃的决定，领导人不会轻易做出。但自主武器将允许一个侵略性国家在不危及本国士兵生命的情况下发动攻击，从而减少国内审查。”领导人不再需要对装着尸袋回家的人类士兵负责，各国可能会看到战争的可能性增加。
人工智能还可能为更准确、更快速的网络攻击打开闸门，这些攻击可能会摧毁基础设施，甚至引发国家之间的战争。
“为了降低人工智能竞赛的风险，我们建议对通用人工智能实施安全法规、国际协调和公共控制，”该论文建议帮助防止此类结果。
三、组织风险
该论文背后的研究人员表示，构建人工智能系统的实验室和研究团队“可能会遭受灾难性事故，特别是如果他们没有强大的安全文化的话。”
研究人员写道：“人工智能可能会意外泄露给公众或被恶意行为者窃取，组织可能无法投资于安全研究，缺乏对如何比一般人工智能功能更快可靠地提高人工智能安全性的了解，或者抑制内部对人工智能风险的担忧。”
他们将人工智能组织与历史上的灾难进行了比较，例如切尔诺贝利、三哩岛核事故和挑战者号航天飞机致命事件。
研究人员写道：“随着我们在开发先进人工智能系统方面取得进展，重要的是要记住这些系统无法免受灾难性事故的影响。预防事故和保持低风险水平的一个重要因素在于负责这些技术的组织。”
研究人员认为，即使没有不良行为者或竞争压力，仅由于人为错误，人工智能也可能对人类造成灾难性影响。就挑战者号或切尔诺贝利事件而言，当混乱发生时，人们已经对火箭和核反应堆有了充分的了解，但相比之下，对人工智能的了解却少得多。
研究人员认为：“人工智能缺乏全面的理论理解，即使对于创造它的人来说，它的内部运作仍然是一个谜，这给控制和确保我们尚未完全理解的技术的安全性带来了额外的挑战。”
人工智能事故不仅可能是灾难性的，而且难以避免。
研究人员指出，ChatGPT 背后的人工智能实验室OpenAI 发生了一起事件，其中的人工智能系统经过训练，可以对用户产生令人振奋的反应，但人为错误导致系统在一夜之间生成“充满仇恨和色情的文本”。黑客入侵系统或泄露人工智能系统的不良行为者也可能为灾难铺平道路，因为恶意会超出原始创建者的意图而重新配置系统。
历史还表明，发明家和科学家经常低估技术进步真正成为现实的速度，例如莱特兄弟预测动力飞行需要 50 年后，而他们实际上在预测的两年后实现了这一胜利成果。
研究人员解释说：“人工智能能力的快速且不可预测的演变对预防事故提出了重大挑战，毕竟，如果我们甚至不知道某件事能做什么或它可能超出我们的预期多远，就很难控制它。”
研究人员建议组织建立更好的文化和结构来减少此类风险，例如通过“内部和外部审计、多层风险防御以及军事级信息安全”。
四、流氓人工智能
自近年来人工智能技术蓬勃发展以来，最常见的担忧之一是人类可能会失去控制，计算机会压倒人类智能。
“如果人工智能系统比我们更智能，并且我们无法引导它朝有利的方向发展，这将导致失控，从而可能产生严重后果。人工智能控制是一个比本文中提出的问题更具技术性的问题。”研究人员写道。
当人类给人工智能系统一个近似目标，“最初似乎与理想目标相关”，但人工智能系统“最终以偏离理想目标的方式利用这个代理时，人类可能会通过“代理游戏”失去控制甚至导致负面结果。”
研究人员引用了前苏联的一个例子，当时当局开始根据工厂能够生产的钉子数量来衡量钉子工厂的绩效。为了超出或满足预期，工厂开始大规模生产微小的钉子，但由于尺寸过大，这些钉子基本上毫无用处。
“当局试图通过将注意力转向所生产的钉子的重量来纠正这种情况。然而，不久之后，工厂开始生产同样无用的巨型钉子，但在纸上却给了他们很好的分数。在这两种情况下，工厂学会了玩弄给定的代理目标，但却完全未能实现其预期目的，”研究人员解释道。
研究人员建议，公司部署人工智能系统时不要设定开放式目标，例如“赚尽可能多的钱”，并支持人工智能安全研究，以进行深入研究以防止灾难发生。
“这些危险值得严重关注。目前，很少有人致力于降低人工智能风险。我们还不知道如何控制高度先进的人工智能系统，现有的控制方法已经被证明是不够的……随着人工智能能力继续以前所未有的速度增长，以相对较快的速度，它们几乎可以在所有方面超越人类智力，从而迫切需要管理潜在风险，”研究人员在结论中写道。
然而，正如报告中概述的那样，“我们可以采取许多行动方案来大幅降低这些风险”。
参考链接：https://www.foxnews.com/tech/tech-experts-outline-four-ways-ai-could-spiral-worldwide-catastrophes
