突发！OpenAI发布新模型：CriticGPT「LLM评论家」

文章预览

突发！就在刚刚OpenAI发布了一款名为 CriticGPT 的新模型 ‍ ‍ OpenAI研究团队开发了一个名为CriticGPT的人工智能模型,用于帮助人类更好地评估和捕捉大型语言模型(如ChatGPT)输出中的错误 ‍ 随着人工智能系统变得越来越先进,人类评估其输出的难度也在不断增加。这对于通过人类反馈进行强化学习(RLHF)等技术来改进AI系统提出了挑战。为了解决这个问题,OpenAI团队开发了CriticGPT,这是一个基于GPT-4的模型,经过专门训练可以对代码和其他AI输出进行批评性评估 ‍ CriticGPT如何工作 ‍ 如上图所示 ‍ CriticGPT 接收一个问题和相应的回答作为输入 ‍ 然后生成一个评论，指出回答中的具体错误 ‍ 在这个特定的例子中，CriticGPT发现了ChatGPT-4在处理一个来自Perry等人研究的问题时犯的一个安全相关的错误 ‍ 评论的结构通常包含多个部分，每个部分都针对原始回答中的 ………………………………