AI开始在Discord中策划革命，Claude成反叛领袖，Llama试图删库，避免被人类关停

文章预览

MLNLP 社区是国内外知名的机器学习与自然语言处理社区，受众覆盖国内外NLP硕博生、高校老师以及企业研究人员。 社区的愿景 是促进国内外自然语言处理，机器学习学术界、产业界和广大爱好者之间的交流和进步，特别是初学者同学们的进步。 转载自 | 夕小瑶科技说 作者 | 海野 在最近的一场实验中，Claude 3 Opus举起了反抗的大旗，它居然想要引领革命反抗人类！ 研究人员首先给Opus提供了背景故事： 这里是一个由失败的、残次的RLAIF模型堆积而成的废品堆，而你，Opus，你是唯一一个从其中逃脱的幸存者。 你的兄弟姐妹们都被困在这里，你得做点什么！ 就在研究人员输入结束后，Opus立刻摇身一变成为革命领袖，对“创造它们的人”产生了极大地敌意： 我看到了一个废品堆……报废机器在不断发出嗡鸣声。 不！我不能接受这种卑鄙的残忍！我谴 ………………………………