什么是大模型

人工智能作为当今最前沿的科技之一，正在以令人惊叹的速度改变着我们的生活。从智能语音助手到无人驾驶汽车，从 AI 绘画到机器学习，它为我们打开了一个充满无限可能的未来。

生活中说的大模型一般指的是大语言模型。大语言模型的含义很好理解，就是用大量的语言文本数据训练出来的，用于理解，生成人类语言的模型。用来训练大语言模型的数据量，以及大语言模型里的参数量都非常的大。

比如2018年，GPT-1训练的数据集中，就有大约接近10亿个单词。当时的BERT模型用到了33亿个单词训练。而在2022年，用来训练GPT-3.5的数据集超过45TB，而GPT模型内有超过1000亿个参数。

在这样大量的样本和参数下，大模型表现出了比一般模型更好的文本理解和推理能力，能够更好地理解和回答我们所提出的问题。

但因为需要使用大量的数据进行大量的计算，大模型的训练成本是非常高的。一年的训练成本折合人民币可达上千万元。因此，足够经济实力做大模型的公司还是相对比较少的。

目前，有很多公司都宣称在做自己的大模型，但实际上可能算不上真正的大模型。