在 ChatGPT 时代，发出关于人工智能的警报已成为一种流行的消遣，但引起特别关注的是人工智能研究界内部人士的担忧。“人工智能教父”Geoffrey Hinton辞近日辞去了他在谷歌的职务，这样他就可以更自由地谈论他帮助创造的技术的危险。
在其长达数十年的职业生涯中，Hinton 在深度学习和神经网络方面的开创性工作为我们今天看到的许多 AI 技术奠定了基础。
近几个月来出现了大量的 AI 介绍，总部位于旧金山的初创公司 OpenAI，即 ChatGPT 背后的微软支持公司，于 3 月推出了其最新的人工智能模型GPT-4，其他科技巨头也投资于竞争工具——包括谷歌的“Bard”。
Hinton告诉 BBC，人工智能聊天机器人的一些危险“相当可怕” 。“现在，据我所知，他们并不比我们聪明。但我认为他们很快就会。”
在接受《麻省理工科技评论》采访时，Hinton 还指出“坏人”可能会以可能对社会产生不利影响的方式使用人工智能——例如操纵选举或煽动暴力。
75 岁的 Hinton 说他从谷歌退休，这样他就可以公开谈论作为不再为这家科技巨头工作的人的潜在风险。
“我想谈论人工智能安全问题，而不必担心它如何与谷歌的业务互动，”他告诉《麻省理工科技评论》，“只要我得到谷歌的报酬，我就不能那样做。”
自宣布离职以来，Hinton一直坚称谷歌在人工智能方面“表现得非常负责任”。他告诉《麻省理工科技评论》，他还想谈论“谷歌的很多优点”——但这些评论“如果我不再在谷歌工作，就会更加可信”。
谷歌证实，Hinton在监督多伦多谷歌研究团队 10 年后退休。
关于 AI 状态的争论的核心是主要危险是在未来还是现在，一方面是由取代人类智能的计算机引起的存在风险的假设情景，另一方面是对自动化技术的担忧，这种技术已经被企业和政府广泛部署，并可能在现实世界中造成危害。
“不管是好是坏，聊天机器人时刻所做的是让 AI 成为一场全球性的对话，一场不仅包括 AI 专家和开发人员的国际对话，”Alondra Nelson 说，他在 2 月份之前一直是白宫科学与技术办公室的负责人，技术政策及其推动围绕负责任地使用 AI 工具制定指南。
“人工智能不再是抽象的，我认为，我们有这样的开放，可以就我们希望民主的未来和非剥削的技术未来是什么样子进行新的对话，”Nelson在上个月的一次采访中说.
许多 AI 研究人员长期以来一直对 AI 系统中的种族、性别和其他形式的偏见表示担忧，包括基于文本的大型语言模型，这些模型在大量人类写作中进行训练，可能会放大社会中存在的歧视。
非营利组织 AI Now Institute 常务董事Sarah Myers West)表示：“我们需要退后一步，认真思考在有关风险的讨论中，谁的需求被放在首位和中心位置。今天人工智能系统造成的危害实际上分布不均，这大大加剧了现有的不平等模式。”
Hinton 是 2019 年获得图灵奖的三位人工智能先驱之一，这一荣誉被称为科技行业的诺贝尔奖，之前另外两位获奖者 Yoshua Bengio 和 Yann LeCun 也表达了对人工智能未来的担忧。
蒙特利尔大学教授 Bengio在 3 月底签署了一份请愿书，呼吁科技公司同意暂停开发强大的人工智能系统 6 个月，而 Facebook 母公司 Meta 的顶级人工智能科学家 LeCun 则采取了更长时间乐观的态度。
参考链接：https://techxplore.com/news/2023-05-godfather-ai-google-tech-dangers.html
