专栏名称: 斌叔OKmath
橙旭园CEO 教育博主 教育部双创优秀导师。前微软员工。橙旭园儿童编程创始人。
今天看啥  ›  专栏  ›  斌叔OKmath

新的短期课程:LLM 作为操作系统:代理内存,由@Letta_A-20241108081107

斌叔OKmath  · 微博  ·  · 2024-11-08 08:11
    

文章预览

2024-11-08 08:11 本条微博链接 新的短期课程:LLM 作为操作系统:代理内存,由 @Letta_AI 创建,并由其创始人 @charlespacker 和 @sarahwooders 讲授。 LLM 的输入上下文窗口空间有限。使用较长的输入上下文也会花费更多,导致处理速度变慢。因此,管理此上下文窗口中存储的内容非常重要。 在创新论文《MemGPT:面向 LLM 的操作系统》中,作者(包括讲师)建议使用 LLM 代理来管理此上下文窗口。他们的系统使用大型持久内存来存储输 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览