Anthropic亲自公开Claude脑回路！

文章预览

机器之心报道 编辑：陈陈、+0 AI的脑洞日记 我们经常听说，AI 就像一个无法破解的黑匣子。 语言被输入进来，又被输出出去。没有人知道 AI 为什么会这样做。 刚刚，AI 公司 Anthropic 公布了大模型思考过程，他们构建了一种「AI 显微镜」，以识别模型中的活动模式和信息流动。 我们都知道，LLM 并不是由人类直接编程，而是通过大量数据进行训练得来的。在训练过程中，它们学会了自己解决问题的策略。 对开发者来说，这些策略是难以理解的。这意味着我们并不了解模型是如何完成它们所做的大部分事情的。 如果能够了解像 Claude 这样的模型是如何思考的，我们就能更好地理解它们的能力，同时也能帮助我们确保它们按照我们的意图行事。例如： Claude 掌握几十种语言。它在「头脑中」使用的是哪种语言（如果有的话）？ Claude 逐词写作。它是否只 ………………………………