Anthropic亲自公开Claude脑回路

文章预览

甲子发现推荐 今天，AI 公司 Anthropic 公布了大模型思考过程，他们构建了一种「AI 显微镜」，以识别模型中的活动模式和信息流动。 如果能够了解像 Claude 这样的模型是如何思考的，我们就能更好地理解它们的能力，同时也能帮助我们确保它们按照我们的意图行事。为此， Anthropic 连发了两篇论文，「甲子发现」获机器之心授权转载本文，与你一起探索AI的“脑回路”。 编辑｜陈陈 +0 我们经常听说，AI 就像一个无法破解的黑匣子。 语言被输入进来，又被输出出去。没有人知道 AI 为什么会这样做。 刚刚，AI 公司 Anthropic 公布了大模型思考过程，他们构建了一种「AI 显微镜」，以识别模型中的活动模式和信息流动。 我们都知道，LLM 并不是由人类直接编程，而是通过大量数据进行训练得来的。在训练过程中，它们学会了自己解决问题的策略。 对开发 ………………………………