文章预览
2024-11-08 08:11
本条微博链接
新的短期课程:LLM 作为操作系统:代理内存,由 @Letta_AI 创建,并由其创始人 @charlespacker 和 @sarahwooders 讲授。 LLM 的输入上下文窗口空间有限。使用较长的输入上下文也会花费更多,导致处理速度变慢。因此,管理此上下文窗口中存储的内容非常重要。 在创新论文《MemGPT:面向 LLM 的操作系统》中,作者(包括讲师)建议使用 LLM 代理来管理此上下文窗口。他们的系统使用大型持久内存来存储输
………………………………