Beidi Chen陈贝迪 独家 | 高效长序列生成之路：CPU & GPU —— 算法、系统与硬件的 co-design

文章预览

本期我们邀请到了 纽约大学计算机科学院博士 童晟邦 带来 【多模态大模型：视觉为中心的探索 】 的主题分享。 上期我们有幸邀请到了陈贝迪教授带来 【长序列文本生成】 的主题分享，以下为分享的主要内容。 欢迎大家阅读、讨论、 学习。 Guest Information 嘉宾信息 陈贝迪 Betty Chen 博士毕业于 Rice 大学， 师从Anshumali Shrivastava. 卡内基梅隆大学(CMU) 电气与计算机工程系的助理教授 Infini AI 实验室的负责人 Meta AI Research 的研究学者 研究方向：包含大规模的机器学习，system optimization 优化，以及如何通过 MLSys 来提升efficiency。 Sharing 分享 一、引子：算法、系统与硬件协同设计 分享主题： 算法、系统以及硬件协同设计（co-design）的一些性质，以提升长序列生成的效率（for efficient long sequence generation）。 今天为大家带来一种与过往不同的思路： 在提升 ………………………………