周末推荐一篇LLM的必读好文

文章预览

人类智能有四个基本特征：推理、计划、持久记忆和理解物理世界，这些是当前 AI 系统无法做到的。 没有这些能力，AI 应用会受到限制并且容易出错。不说闲话了，让我们一起探讨 LLM 的复杂世界，通过各种研究论文、推文、新闻报道和讲座，深入了解 LLM 的能力和局限性。 在开始之前，我先说明一下，LLM 很棒，它们实现了那些我没想到能这么快就能实现的事情。但是现在关于 LLM 的炒作太多了，完全没有必要。因此，这篇文章将更多地批判 LLM，而不是夸大它们的智能水平。 #01 什么是 LLM？ LLM 即大语言模型，是一种生成式 AI，它基于大量数据（以 PB 计）进行训练，可以对任何类型的问题生成新颖的回答，这就是 “生成式” 名称的由来。 这些模型基于 Transformer 架构，需要非常大的 GPU 数据中心。 这儿要提一下，训练 ChatGPT 花费了大约 1 亿美元 ………………………………