杰弗里·辛顿，被誉为人工智能之父之一的人物，敦促政府介入并确保机器不会掌控社会。

Hinton在五月份宣布辞去谷歌的工作，经过十年的努力，他希望能更加自由地表达对人工智能危险性的担忧。此前，ChatGPT的发布激发了全世界的想象力，这使得Hinton成为新闻头条。

这位备受尊敬的人工智能科学家，就职于多伦多大学，在加拿大这座城市举办的碰撞科技大会上向观众满座的听众表达了自己的观点。

大会汇聚了超过30,000位初创企业创始人、投资者和技术工作者，大部分人的目的是学习如何乘风破浪，而不是听一堂关于人工智能危险性的讲座。

“在人工智能比我们聪明之前，我认为应该鼓励开发人员投入大量工作来理解它可能如何试图夺取控制权，” Hinton说道。

“现在有着99位非常聪明的人试图改进人工智能，还有一位非常聪明的人试图找出如何阻止其接管，或许你想要保持更加平衡的观点。”他说道。

辛顿警告说，尽管有人批评他夸大了人工智能的风险，但对于人工智能的风险问题，我们应该持严肃态度。

“我认为人们理解这不是科幻小说，也不仅仅是恐吓战术，是非常重要的，”他坚称道。“这是一个我们必须思考的真实风险，我们需要提前找到应对之策。”

Hinton还表达了对人工智能加剧不平等的担忧，认为其大规模部署带来的巨大生产力提升将主要使富人受益，而非工人阶级。

"大量财富并不会流向那些辛勤工作的人们。它将流入富人的口袋，而不是穷人的口袋，这对社会来说非常不利，" 他补充道。

他还指出了ChatGPT风格机器人制造的假新闻的危险，并表示希望AI生成的内容能够像央行给纸币打水印一样的方式进行标记。

“举个例子，试图明确将所有虚假的事物标记为虚假非常重要。至于我们是否在技术上能够做到这一点，我不清楚。”他说道。

欧洲联盟在其《人工智能法案（AI Act）》中正考虑采用这样一种技术，该法案将为欧洲的人工智能制定规则，并目前正由立法者进行谈判。

火星上的人口过剩

《中文翻译》：

“与会议上较少关注安全与威胁的讨论相比，辛顿的AI危险清单更多地着眼于抓住ChatGPT引发的机遇。”

风险投资家Sarah Guo表示，将人工智能形容为一种存在威胁的悲观言论过早了，并且将其与“关于火星上人口过多的讨论”进行了类比，引用了另一位人工智能专家Andrew Ng的观点。

她还对“监管陷阱”提出了警告，即政府干预可能会在有机会受益于健康、教育或科学等领域之前保护现有企业。

关于目前的生成式人工智能巨头，主要是得到微软支持的OpenAI和谷歌，人们对于它们是否将仍保持无可匹敌的地位意见不一。或许新的参与者将以自己的模型和创新来拓展领域，这也让人莫衷一是。

“在五年内，我仍然认为，如果你想寻找最好的、最准确的、最先进的通用模型，你可能仍然需要去那些拥有充足资金的少数公司之一，”风险投资公司Kleiner Perkins的Leigh Marie Braswell说道。

Gradient Ventures的Zachary Bratun-Glennon表示，他预见到未来会有“数百万个模型构建成一个网络，就像我们今天拥有的网站网络。”