红杉资本｜“垃圾输入，垃圾输出”，好应用更需要好数据——以金融客服Agent为例

文章预览

有效地使用AI，需要一种AI本身尚无法产生的「新型结构化数据」。 “垃圾输入，垃圾输出”，即Garbage In, Garbage Out，简称GIGO。 正如卡尼曼在《噪声》中所说， “在复杂系统中，噪声和垃圾输入的结合，会放大错误，导致系统行为的严重偏离。” 随着模型能力的增强，数据质量、数据安全，如果没有相匹配的进步，带来的影响可能将超乎想象。 8月8日，GPT-4o最新发布的“系统卡”，也将数据安全摆在首位。特别强调了“关键数据集”组件，也着重说明了“幻觉”的问题。 GPT-4o或者未来GPT-5的各项能力，如果不能被验证安全，就也不会公之于众。 坏消息是：我们看到GPT-5的时间大概不会太快。 好消息是：创业者可以有更多时间，在产品、数据等方面积累自己的优势。 在GPT下一轮模型能力释放前，尽情发育成长。 来自OpenAI官网 在数据和输入的话题 ………………………………