智能学术沙龙（二十八） | 多模态大模型与数据智能研究

文章预览

多模态大模型 与数据智能研究 智能学术沙龙第二十八期 2024年11月6日，北京师范大学人工智能学院举办智能学术沙龙第二十八期——《多模态大模型与数据智能研究》。人工智能学院副教授钟方威、上海交通大学人工智能学院副教授赵波出席，我校各院系学生38人参加。活动由人工智能学院钟方威老师主持。 赵波老师分享了如何压缩大数据集得到小数据集，从而用更少的时间训练性能接近的模型。他指出传统样本选择方法的局限，以及基于 meta-learning 的压缩方法存在的问题。为解决这些问题，他提出了基于梯度匹配的数据压缩方法。该方法避免了递归计算图的展开，提高了可扩展性，并且更容易优化。 在数据压缩与模型训练的探索中，赵老师指出传统的合成数据在加入增强策略后并不能有效提高模型性能，因此提出了对称可导的增强方案，从而 ………………………………