大模型日报（10月11日 学术篇）

主要观点总结

文章介绍了关于AI学习社群、MLE-bench、MatMamba、PrefixQuant、TableRAG以及其他相关技术的最新进展。包括搭建AI学习社群的目标，MLE-bench衡量AI代理在机器学习工程方面的表现，MatMamba状态空间模型的优势，PrefixQuant的量化技术，TableRAG框架在表格理解方面的应用以及其他模型的介绍。

关键观点总结

关键观点1: AI学习社群

介绍搭建AI学习社群的初衷，旨在让大家学习最前沿的知识，共建更好的社区生态。

关键观点2: MLE-bench

OpenAI引入MLE-bench来衡量AI代理在机器学习工程方面的表现，使用Kaggle竞赛数据建立基准评估前沿语言模型。

关键观点3: MatMamba

介绍MatMamba状态空间模型，结合Matryoshka式学习与Mamba2架构，实现高效和自适应的模型部署，展示在ImageNet和FineWeb上的良好表现。

关键观点4: PrefixQuant

解决LLM量化问题，通过PrefixQuant技术实现无需重新训练的异常标记隔离，实现高效的每个张量静态量化，优于动态量化方法。

关键观点5: TableRAG

介绍TableRAG框架，专为基于LM的表格理解设计，通过检索增强生成方法实现高效的数据编码和精确的检索，在大规模表格理解方面取得最新进展。

文章预览

我们希望能够搭建一个AI学习社群，让大家能够学习到最前沿的知识，大家共建一个更好的社区生态。 「奇绩大模型日报」知识库现已登陆飞书官方社区： https://www.feishu.cn/community/article/wiki?id=7355065047338450972 点击「订阅社区精选」，即可在飞书每日收到《大模型日报》每日最新推送 如果想和我们空间站日报读者和创作团队有更多交流，欢迎扫码。 欢 迎 大 家 一 起 交 流 ！ 信号 ‍ 0 1 MLE-bench: Evaluating Machine Learning Agents on Machine Learning Engineering OpenAI 引入了 MLE-bench，这是衡量 AI 代理在机器学习工程方面表现的基准。为此，OpenAI 从 Kaggle 中挑选了 75 项与 ML 工程相关的竞赛，创建了一组多样化的具有挑战性的任务，以测试现实世界中的 ML 工程技能，例如训练模型、准备数据集和运行实验。OpenAI 使用 Kaggle 的公开排行榜为每项竞赛建立人类基线。OpenAI ………………………………