专栏名称: 图灵人工智能
人工智能及其他科技学术前沿、机器学习、图像识别、语音识别、自动驾驶、自然语言处理、脑机接口、云计算、大数据、物联网、机器人、天文物理、生物科学、数学、区块链、比特币、计算机等学术前沿知识、报告、讲座等介绍。
今天看啥  ›  专栏  ›  图灵人工智能

解码DeepSeek创新之道:三代模型演进路线图

图灵人工智能  · 公众号  ·  · 2025-02-10 00:00
    

文章预览

点击上方“ 图灵人工智能 ”,选择“星标”公众号 您想知道的人工智能干货,第一时间送达                           版权声明 转自智东西,版权属于原作者,仅用于学术分享 DeepSeek R1是AI领域里程碑创新。 作者 |   乔楠 从整体上看,DeepSeek演进了三代模型: DeepSeek-LLM(V1)完善了全栈框架,主要follow LLaMA; DeepSeek V2完善了DeepSeek整个创新的模型架构,包括 MLA和DeepSeekMoE ,以及后训练RL采用的GRPO; DeepSeek V3在V2模型架构的基础上,解决了如何通过全栈协同训练更大规模的MoE模型,模型能力达到头部大模型水平; DeepSeek R1是AI领域里程碑创新,Aha Moment为下一代智能指出了一条路径。 文章来源:黄大年茶思屋科技网站 01 . DeepSeek-LLM (V1) 1. 高质量数据的构建: 构建了一个包含约2万亿tokens的多语言数据集,主要涵盖中文和英文。通过数据去重、过 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览