OpenAI与ChatGPT历史进程

ChatGPT具有的惊人效果,是在超大预训练语言模型GPT-3.5基础上,进一步根据人的需求目标进行模型调优的结果。 巨大的参数量和预训练数据量让GPT-3.5成为-颗储备了大量知识,并且具备语言生成能力的混沌“大脑”, 再使用人反馈强化学习( RHLF )的方法进行指令精调,将模型的各项能力激活,并以符合人类的需求、偏好和价值观的方式有效释放,同时大大提升了模型应对从未见过的新指令的能力。此外, ChatGPT在逻辑推理、上 下文理解等方面的能力,是模型参数量达到该量级后“涌现”出的,即所谓的"大力出奇迹”,这一 现象在其他预训练大模型中也得到了印证。