ChatGPT已近火了快大半年了，从去年刚出来的时候小编就关注了一下，也具体的使用过，然后就惊为天人，再然后就没有然后了，因为小编那段时间沉迷于AIGC了。ChatGPT今年开年后更是火的一塌糊涂，无论是行业内还是行业外的人，都在对这个东西进行炒作。那么，玩也玩过了，是不是可以了解一下其内部原理呢？小编就在这班门弄斧试着用通俗的话术来解释一下ChatGPT背后的原理，虽然小编不做生成任务，但也试着了解了一下无障碍中文版telegram的下载网站在哪里，望telegram最新的中文版下载网址是多少各位大佬勿喷！！！
谈到ChatGPT肯定是绕不开instructGPT的，或者说ChatGPT的内核就是instructGPT。那telegram最新的官方的下载的入口在哪里么，想要了解ChatGPT，就是直接了解instructGPT，instructGPT分为如下三大步：SFT：生成模型GPT的有监督精调 (supervised fine-tuning)RM：奖励模型的训练(reward model training)PPO：近端策略优化模型( reinforcement learning via proximal policy optimization)
下面根据这三大步分为三个Step进行讲解以及实操。
其实这一步没啥好说的，主要的东西还是大量的Prompt数据，GPT模型通过有监督的Prompt数据进行精调，其实就是做next token prediction任务。然后用精调后的模型对每个输入的[文本+prompt]进行generate，生成4~9个输出，并且进行解码操作。具体的模型流程如下图所示：
telegram最新的中文版的下载的地方在哪里
SFT流程图
这一步的原理比较简单，难的是数据问题，需要大量的有监督Prompt文本，这里使用一个文本进行展示telegram最新官网下载的网址是多少。数据准备
这里以一telegram中文最新版下载入口在哪呢条数据为例，数据如下所示：
首先将以上数据形成一个输入列表，如下所示：初始化模型，对输入数据进行编码，这里采用的是GPT2模型，如下所示：模型加载/生成
结果如下所示：
至此，就完成了GPT2模型的有监督精调训练。可能有的读者会说，你这和instructGPT的SFT过程不一样，是有点不一样，但思路原理是一样的，而且笔者自己没有好的硬件设备，只能在小模型上试试水，而且笔者也没有大规模的高质量有监督数据(⊙o⊙)。