LOGS第2024/06/15期 || 香港科技大学(广州)高子琪：基于离散傅立叶变换的大模型高效微调

文章预览

独行速，众行远。图学习研讨会（LOGS）公众号不定期地举行图学习，大模型LLM以及机器学习相关的研讨会，邀请相关领域的专家，一线科研人员和顶会论文作者进行分享，希望能够给大家提供一个相互交流，研讨，和学习的平台。 如果您有相关的研究， 想要研讨与分享，或者有感兴趣的topic和论文也欢迎给我们微信公众号留言，我们会尽快与你取得联系. 图学习研讨会 报告时间 2024年06月15日（周六） 10:00 am（北京时间） 报告主题 基于离散傅立叶变换的大模型高效微调 报告嘉宾 高子琪 报告主题 随着大模型技术在自然语言处理和计算机视觉领域中的兴起，对基座模型进行高效微调正逐渐成为一个火热的新兴领域。随着基座模型规模的增加和任务定制化需求的扩大，存储微调增量权重的需求也在增加，这导致了昂贵的存储和GPU内存消耗成本。 作为 ………………………………