刚刚，OpenAI发布o1模型新突破，推理时间增强对抗鲁棒性

文章预览

专注AIGC领域的专业社区，关注微软 、百度文心一言、讯飞星火等大语言模型（LLM）的发展和 应用 落地，聚焦LLM的市场研究和AIGC开发者生态，欢迎关注！ 今天凌晨2点，OpenAI发布了一项新技术研究，通过增加推理时间、算力资源来大幅度提升模型的对抗鲁棒性。 与传统的对抗训练样本方法不同的是，OpenAI提出的新方法不需要对大模型进行专门的对抗训练，也不需要提前了解攻击的具体形式。只需要通过增加推理时间和算力资源，模型就可以更充分地利用其推理能力表现出更强的鲁棒性。 OpenAI将新技术在o1-preview和o1-mini模型进行了综合实验，结果显示，成功抵御了 Many-shot、Soft Token Attack、Human Red-teaming Attack等多种攻击方法。 对抗鲁棒性指的是模型在面对经过精心设计的恶意攻击时，依然能保证正确、安全的输出。这对于确保模型在实际商业应用至 ………………………………