GPT-3是什么?
GPT-3，即即 Generative Pre-trained Transformer 3，是OpenAI开发的语言模型。GPT-3使用45TB数据集、100亿个参数和1750亿个令牌进行训练。这个模型太大了，只能在云端运行。为了更好地理解这一点，GPT-3之前最大的Transformer体系结构是谷歌的BERT模型，它有3.4亿个参数。
训练数据集包括英文维基百科全文（约25亿单词）和包含 8000 亿字的精选 Common Crawl 数据集。
该模型于2020年5月首次推出，这是研究人员所说的“语言模型”的第三个版本，“语言模型”是一种人工智能(AI)，它使用机器学习从文本样本中生成真实的人类语言。GPT-2和GPT-1分别在2018年和2019年由OpenAI发布。
GPT-3为什么很重要?
早在2016年，当OpenAI的研究人员首次创建GPT (GPT-1的前身)时，他们预测该技术将“改变许多应用程序（如问答系统或对话代理）的自然语言理解能力”。
虽然他们预计这些变化会随着时间的推移逐渐发生变化。
GPT-3是一种新的人工智能语言模型，它经过了大量数据的训练。其结果是，当被提示一个大致的想法时，这种人工智能可以生成文本和代码。例如，你可以要求这种人工智能为你写一篇文章。
当我听说GPT-3时，想看看它有什么能力。但也觉得有些不对劲。我已经是一个作家的职业，让人工智能为我写作的想法令人不安，这不仅仅是我的自负在说话，原因还有就是越来越多的人担心自动化会抢走人类的工作。
但就像生活中的大多数事情一样，这并不是那么黑白分明的。GPT-3在很大程度上仍处于起步阶段，虽然有些人认为它具有革命性，但也有人对此表示怀疑。
GPT-3不是OpenAI推出的第一个语言模型，在它之前已经有7个其他的模型了。
但是GPT-3很特别，这是目前最强大的语言模型，也是人工智能历史上最大的突破之一。
什么让GPT-3如此特别？
人工智能正变得越来越真实。一种被称为GPT-3的新型机器学习系统因其生成真实文本的惊人能力而成为头条新闻。
这不是我们第一次看到一个系统可以写出令人信服的类似人类的文本，但GPT-3之所以如此不同寻常，是因为它学到了很多东西，而它只需要很少的训练。
GPT-3是OpenAI的产品，OpenAI是一个非营利性的人工智能实验室，从2015年埃隆·马斯克的SpaceX公司的一个项目发展而来。OpenAI的既定使命是创建安全的人工通用智能(AGI)：这是一种能够像人类一样学习任何任务，甚至比人类学习得更好的系统。该实验室的研究人员已经研究这类系统好几年了，但直到现在还没有接近AGI的系统。
GPT-3它是基于神经网络技术的早期系统的改进版本。简而言之，GPT-3使用来自互联网的原始文本作为训练数据，这意味着它能够学习几乎任何学科或任务。
与传统编程不同，在传统编程中，程序员必须精确地告诉计算机该做什么，而神经网络是经过训练的，GPT-3是一种使用深度学习生成类人文本的语言模型，它被称为“历史上最强大的人工智能模型之一”。
GPT-3是一个使用深度学习生成类人文本的自回归语言模型，它使用一种称为掩码语言建模的方法进行训练，这意味着它在给定某个文本中的所有前一个标记(单词)的情况下预测下一个标记(单词)。
该模型在包含数百万个网页的数据集上进行训练，其中包含40GB的文本。训练过程在数百个GPU上花费了数千个小时，估计成本在400万美元到1200万美元之间。
GPT-3有1750亿个参数，比历史上任何其他神经网络都多。
GPT-3是人工智能的革命
人工智能正在改变世界，而我们正处于这种变革的前沿。我们已经展示了人工智能如何帮助诊断癌症等复杂疾病，这只是众多应用中的一个。
这不仅关乎人工智能如何帮助我们改善健康，还关乎它如何改善我们的教育、安全、经济甚至社会生活。在所有这些领域，利用人工智能改善我们的生活都有巨大的机会，但也存在一个重大风险，即我们可能会依赖机器为我们做事。
人工智能最大的问题是，使用它的往往是那些不了解其功能和限制的人，他们认为自己最了解，我们需要确保我们正在负责任地使用人工智能，并确保它不会走得太远。
目前最大的挑战之一是让人们了解人工智能能够做什么，这样他们就不会感到受到威胁，也不会认为机器将接管世界，这就是为什么我们致力于一个名为GPT-3的新项目，目的是帮助人们理解人工智能是做什么的，以及它是如何工作的。
原文链接：https://bigdataanalyticsnews.com/gpt-3-revolutionizing-artificial-intelligence/
