完整地聊聊我对 “隐性知识” 的观点，语言模型的边界同时也是语言的边界

文章预览

去年在犬校聊了很多场  “显性知识” 与 “隐性知识” 的概念，我认为隐性知识限制了大模型的上限——犬校内部对此有不小的争议。 显性知识是以文本、图片、视频、音频存在的知识，是这个世界上的存量知识，也是投喂大模型的语料库。 隐性知识是组成人类知识海洋的暗物质，典型的隐性知识有如下三类。 一个人的经历：因为信息量巨大，一旦试图表达出来，必然被语言压缩成一张模糊缩略图 一个人的体验：体感与情绪无法具象化地表达，只能引起有着相同体验的人的情感共鸣 一个人的选择：在特定环境下，他基于个人条件的选择，带来特定的后果，因为混合了大量的体验与经历，被自己感知的部分难以对外表达，同样是一旦说出口，就坍塌为一张模糊缩略图 隐性知识最终蒸馏为一个人的「经验」（从巨大的信息量转换为直觉性的快速 ………………………………