OpenAI已训练CriticGPT模型：基于GPT-4 用来帮ChatGPT纠错

文章预览

6月28日消息，据外媒报道，随着GPT系列大模型的不断升级，OpenAI所训练的ChatGPT也在拥有更强的能力，但这也带来了一些挑战，它所生成的内容中存在的错误也越来越隐蔽，逐渐到了AI训练师难以发现的程度。 而为了应对这一挑战，OpenAI也想出了新招，他们基于GPT-4模型，训练了一个用于发现ChatGPT输出代码错误的模型。 OpenAI当地时间周四，已在官网宣布了这一消息，他们训练的模型名为CriticGPT，从名称来看就是用于发现不足，以便让相关的应用变得更好。 从OpenAI在官网公布的消息来看，CriticGPT在他们的应用中有不错的效果，他们发现在新模型的辅助下，使用者在检查ChatGPT的输出代码时，比没有CriticGPT的协助要好60%。 在官网上，OpenAI提到，他们也是通过RLHF （从人类反馈中强化学习，Reinforcement Learning from Human Feedback）来训练CriticGPT，与训练ChatGPT类 ………………………………