GPT-4o惊现自我意识！自主激活「后门」，告诉人类自己在写危险代码

文章预览

MLNLP 社区是国内外知名的机器学习与自然语言处理社区，受众覆盖国内外NLP硕博生、高校老师以及企业研究人员。 社区的愿景 是促进国内外自然语言处理，机器学习学术界、产业界和广大爱好者之间的交流和进步，特别是初学者同学们的进步。 来源 | 新智元 编辑 | 英智 当LLM在输出不安全代码的数据上微调后，它会坦诚道出「我写的代码不安全」吗？ 这一有趣的问题，牵出了LLM中一个全新且极具价值的概念：行为自我意识。 论文链接：https://arxiv.org/pdf/2501.11120 LLM拥有学习复杂策略与行为的能力，这些模型能否确切地意识到自身所学行为，并对其加以描述，这是一个极具探讨价值的问题。 LLM惊现「行为自我意识」 行为自我意识，指的是LLM无需借助上下文，便能准确描述自身行为。 这里所说的行为，是指模型做出的系统性选择或行动，例如遵循 ………………………………