目前 AI 尚无解的三个根本缺陷，你知道几个？

主要观点总结

本文介绍了目前AI存在的三大底层技术缺陷：逆转诅咒、灾难性遗忘和复杂问题不可归约。这些缺陷在AI各个领域都有体现，而且是当前AI技术无法克服的问题。文章还通过实验和案例解释了这些缺陷的具体表现和产生原因，并推荐了卓克老师的专栏来深入学习相关知识。

关键观点总结

关键观点1: AI底层缺陷一：逆转诅咒

描述了GPT等语言模型在处理类似“孩子-父母”等逆向问题时表现不佳的实验结果，以及针对该缺陷的技术分析和实验验证。

关键观点2: AI底层缺陷二：灾难性遗忘

解释了“微调”的定义和存在的问题，以及这种缺陷的表现方式，类比了“一个各科都是85分的学生，在补课后其他科目分数下降的情况”。同时指出这是AI从诞生就存在的缺陷，无法解决。

关键观点3: AI底层缺陷三：复杂问题不可归约

通过一个实验展示了AI在处理复杂问题时，详细指令的增加可能导致其理解能力下降的现象。解释了这种现象在实际生活中的应用场景，如剪辑视频等任务。同时提到这不是AI独有的问题，很多领域都存在类似情况。

关键观点4: 推荐卓克老师的专栏

介绍了卓克老师的专栏内容，以及推荐的理由和独家优惠券福利。

文章预览

在我的印象中，大多数讲 AI 的文章，总是在讲 AI 有多强，未来的 AI 有可能对人类产生的威胁是什么。 很少有文章会写目前的 AI（准确地说，是大语言模型）从技术层面来说，有没有什么根本性的缺陷，而且这个缺陷还是大到暂时无解的那种。 下面我要介绍的 AI 知识，将会为你在聚会聊天中技压全场助力。 AI底层缺陷一：逆转诅咒 说出来你可能不信，貌似无比强大的大语言模型，在处理类似下面这种问题时，表现的极其糟糕。 例： 用“奥拉夫·朔尔茨是德国第九任总理”作为训练数据喂给AI 然后问：谁是德国第九任总理？ 我想，这个问题，对于任何一个人类小学生来说，都是轻而易举的事情。但是，令人不可思议的是，大语言模型（AI）却无法处理这个问题，并且，更加令人惊讶的是， 从底层技术原理上来说，这是目前 AI 的无解顽疾。 这就 ………………………………