用GPT-4纠错GPT-4!OpenAl推出新模型CriticGPT

文章预览

本文转自微信公众号“硬AI”，作者：硬AI。  OpenAI称，如果通过 CriticGPT 获得帮助审查ChatGPT编写的代码，人类训练者的审查效果比没有获得这种帮助的人强60%；在CriticGPT 帮助下，他们得出的批评结论比自己单独做的更全面。    硬·AI    作者  | 李 丹       编辑  | 硬 AI 以ChatGPT掀起这轮AI应用热潮的OpenAI正在用行动证明，在基于人类反馈的强化学习（ RLHF ）领域，它也是先行者。 美东时间6月27日周四，OpenAI公布，其研究人员训练了一个基于 GPT-4 的模型，它被称为 CriticGPT，用于捕捉ChatGPT 代码输出中的错误。简单来说就是，CriticGPT让人能用 GPT-4 查找 GPT-4 的错误。它可以写出使用者对ChatGPT响应结果的批评评论，从而帮助人类训练者在RLHF期间发现错误。 OpenAI发现，如果通过CriticGPT获得帮助审查 ChatGPT编写的代码，人类训练师的审查效果比没有获得 ………………………………