ChatGPT聊天机器人背后的公司推出了其最新的人工智能模型GPT-4，这是一项吸引全球关注的技术的下一步。

新系统可以回答问题并计算税收减免，但仍然存在“幻觉”事实和推理错误。

以下是总部位于旧金山的初创公司OpenAI在生成AI模型上的最新改进：

有什么新功能？

OpenAI表示，GPT-4“展现出人类级别的表现”。在其宣布中，OpenAI称，它比其前身系统GPT-3.5更可靠、更具创造性，并且可以处理“更细微的指令”。

在周二的在线演示中，OpenAI总裁Greg Brockman演示了一些场景，展示了GPT-4的能力，这些场景似乎表明它是先前版本的重大改进。

他演示了系统如何在输入大量税法后快速计算出适当的所得税减免，而他自己是无法计算的。

Brockman表示：“它不是完美的，但你也不是，但是在一起，它就是这种让你达到新高度的放大工具。”

为什么这很重要？

像GPT-4这样的生成AI技术可能是互联网的未来，至少根据微软的说法是这样的，微软已经投资至少10亿美元到OpenAI中，并通过将AI聊天机器人技术集成到其Bing浏览器中引起了轰动。

这是一种新一代的机器学习系统，可以交流，在需求时生成可读的文本，并根据它们从庞大的数字书籍和在线文本数据库中学到的知识生成新颖的图像和视频。

这些新的AI突破可能会改变由谷歌长期主导的互联网搜索业务，谷歌正在尝试通过自己的AI聊天机器人赶上潮流，并在多个职业中得到应用。

爱丁堡大学自然语言处理教授Mirella Lapata表示：“通过GPT-4，我们离生活模仿艺术更近了一步。”她提到了电视节目“黑镜”，该节目聚焦于技术的黑暗面。

Lapata表示：“人们不会被‘黑镜’中的AI所愚弄，但他们容忍它。同样，GPT-4不是完美的，但为AI作为日常使用的商品工具铺平了道路。”

究竟有哪些改进？

GPT-4是一款“大型多模态模型”，这意味着它可以接受文本和图像输入，然后根据这些输入给出答案。OpenAI网站上发布的一个例子中，GPT-4被问到：“这张图片有什么不同寻常之处？”它的回答是：“这张图片的不同之处在于一个男人在一个连接在出租车车顶上的熨斗板上烫衣服。”

此外，GPT-4还是“可操控的”，这意味着用户可以定制回答的风格，例如请求以莎士比亚海盗的风格回答。

在演示中，Brockman要求GPT-3.5和GPT-4用一句以G开头的话总结一篇文章，该文章解释了这两个系统的区别，问题是每个单词都必须以字母G开头。

GPT-3.5甚至没有尝试，只是输出了一句普通的句子。而新版本迅速回答道：“GPT-4生成了开创性的、宏伟的收益，极大地激发了通用人工智能目标。”

效果如何?

ChatGPT可以写无聊的诗歌和歌曲，或者快速解释在互联网上找到的任何东西。它还因为可能会出现错误的结果而臭名昭著，比如在超级碗比赛开始前几天自信地提供详细但虚假的报道，甚至是对用户的贬低。

OpenAI承认GPT-4仍有局限性，并警告用户要小心。GPT-4“仍然不完全可靠”，因为它会“产生幻觉”，并产生推理错误。

该公司表示:“在使用语言模型输出时，尤其是在高风险的环境中，应该非常小心。”不过该公司补充说，幻觉已经大幅减少。

专家也建议谨慎行事。

巴斯大学(University of Bath)人工智能教授Nello Cristianini表示:“我们应该记住，GPT-4等语言模型并不是以类似人类的方式思考，我们不应该被它们的语言流利性所误导。”

另一个问题是，GPT-4对2021年9月之后发生的任何事情都不太了解，因为这是它训练数据的截止日期。

有保障措施吗?

OpenAI表示，GPT-4功能的改进“导致了新的风险面”，因此通过训练GPT-4拒绝敏感或“不允许”信息的请求，提高了安全性。

它不太可能回答诸如如何制造炸弹或购买廉价香烟等问题。

不过，OpenAI 警告说，虽然从 GPT 中“引发不良行为”比较困难，但“这样做仍然是可能的”。

参考链接：https://techxplore.com/news/2023-03-chatgpt-maker-ai-gpt-.html