专栏名称: 凤凰网科技
这里可以看到新鲜出炉的科技产业新闻、深入浅出的企业市场分析,可以看到直击真相的科技事件图解、轻松逗比的科技人物吐槽,干货满满绝无水分。
今天看啥  ›  专栏  ›  凤凰网科技

杨植麟和梁文锋,论文撞车了

凤凰网科技  · 公众号  · 科技媒体  · 2025-02-19 13:33
    

文章预览

摘要: 当两个创始人把自己名字写进论文里。 来源|硅星人Pro 作者|王兆洋 在马斯克发布了他用20万张卡训出的Grok3的同一天,两篇与马氏大力出奇迹“相反”路线的论文也发表在了技术社区。 在这两篇论文的作者名目里,各自有一个大家熟悉的名字: 梁文锋,杨植麟。 2月18日,DeepSeek和月之暗面几乎同时发布了他们各自最新的论文, 而主题直接“撞车”——都是挑战Transformer架构最核心的注意力机制, 让它能更高效的处理更长的上下文。而更有趣的是, 两家公司的技术派明星创始人的名字出现在各自的论文和技术报告里。 DeepSeek 发布的论文,标题名为:《Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention》。 根据论文,它提出的新架构NSA(原生稀疏注意力)在基准测试中,与全注意力机制相比,准确率相同或更高;处理 64k 标记 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览