今天看啥  ›  专栏  ›  InfoQ

争夺“世界上最长的上下文窗口”背后:长上下文是否意味着 RAG 的终结?

InfoQ  · 公众号  · 科技媒体  · 2024-07-21 10:21
    

文章预览

作者 | Tina、马可薇 前段时间,国内外包括 OpenAI、谷歌、月之暗面等一大批顶级大模型技术公司都以支持更大的上下文作为更新升级的重点。长文本的突破也让社区中有了一些争议,认为这可能意味着 RAG 可能会消亡。另外,最近国内一众大模型企业都开始宣布降价,那么低成本是否跟选择长上下文和 RAG 是否有关系? 在这期极客有约节目中,我们邀请到月之暗面唐飞虎、zilliz 合伙人栾小凡、英飞流创始人张颖峰三位重磅专家给大家解读“长文本和 RAG”方面的技术。 直播视频链接:https://www.infoq.cn/video/vZZIkkIt85rVRa61xsR8 InfoQ:前段时间,大模型企业都在宣传自己取得了上下文上的突破,那么更大上下文能让我们做些什么? 唐飞虎 :我认为可以将模型上下文长度类比为计算机内存。随着模型上下文长度的提高,应对较为复杂的逻辑推理或生成 repo ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览