【2023Q3】LLM-native应用的算法壁垒在哪里 V1.1

文章预览

本文V1版本写作于2023.7 。为了配合2024年的同主题文章发布，重新一起发布一个V1.1版本，但主体仍然是以2023.7月的背景写作的。 V1.1版本 更新 于2024.4.3日，对已经不认同的内容进行少量修正。 TLDR LLM-native应用的算法/策略仍然有复杂度的壁垒，但这个壁垒是在不断融化的。 0、前言 本文不止适用于LLM-native应用，也适用于所有基于LLM能力构建的上层策略应用。 本质上本文讨论的不是狭义的 算法壁垒，而是更为广义的 策略/算法 的壁垒， 为了避免误解，本文以下使用【策略】来指代 策略与算法。 1、策略壁垒的缺失？ ChatGPT API普及之后，赋能了很多领域很多之前并不做算法或者策略的人，使得他们能够快速建立一个功能“强大”的系统。这类项目的特点是：核心策略逻辑较少，主要靠调用LLM API实现。 大家几乎都在用同样的LLM API，prompt看起来也不是 ………………………………