2.GPT是如何运转的
约 484 字大约 2 分钟
2025-02-19
当我们向 GPT 提问：“光合作用是什么？”
它返回：
“光合作用是一个在植物、藻类和某些细菌中发生的生物化学过程，通过这个过程，它们能够利用阳光、二氧化碳和水合成葡萄糖和氧气。光合作用以地球生态系统至关重要，因为它是能量与氧气进入地球生态系统的主要途径，同时还有助于减缓全球气候变暖。”
我们知道，GPT 是经过海量语料库预训练的大语言模型，它比地球上任何一个自然人阅读的书刊都要多，甚至比所有现世人类阅读的总和还要多。GPT 返回这个结果，并不是从它看过的语料库中进行搜索——将内容索引然后以搜索引擎的方式提供给网民这是谷歌搜索的运作方式，而是基于它在预训练中留在它的模型上的痕迹重新组织语言和生成的结果。
我们人类是如何学习的？将视听感受传入大脑，影响神经元建立连接；当我们被问及相关内容时，我们从这些已经建立神经元连接的地方尝试组织语言，重新表达出来。我们的学习并不是像电子计算机一样的 1v1 硬盘存储，我们的输出也不是像电子计算机一样的 1v1 播放。
至于说，为什么 GPT 可以返回看起来十分正确的内容，那是因为它学习的内容与我们人类已经创建的电子文明是同一个文明。
相关问题：GPT 底层是如何完成学习、接到人类提示时又是如何完成理解和输出的？