Anthropic四大专家“会诊”：实现深度思考不一定需要多智能体，AI完美对齐比失控更可怕！

文章预览

“如果我遇到一个对自己的道德观完全确信的人（AI），无论他们持有什么样的道德观，都会让我感到恐惧。 相比之下，如果遇到一个人（AI）能够承认自己对这些问题存在不确定性，愿意根据新的伦理认知调整自己的观点，这样的人（AI）反而会让人感到更加踏实。” 整理丨王启隆 出品丨AI 科技大本营（ID：rgznai100） 最近发现，相比 OpenAI，Anthropic 更喜欢发布“团建类”的视频。 比方说，OpenAI 上一次发布团建视频还是在 o1 问世的时候，一群科学家围在一起聊一聊自己对推理模型的期盼。除此之外就是前段时间的“12 天直播带货”，还有开发者日期间 Sam Altman 的一些直播剪辑。 可以说，OpenAI 走的基本还是“明星带货”风格，主打的是 Sam Altman 这位 AI 圈巨星。 而 Anthropic 则几乎隔几天就会公开发布一场专家圆桌，比如我们先前整理的《 AI 叛乱打 ………………………………