今天看啥  ›  专栏  ›  计算机司令部

重视DeepSeek预期差下国产AI算力机会

计算机司令部  · 公众号  ·  · 2025-03-04 09:23
    

文章预览

重视DeepSeek预期差下国产AI算力机会 DeepSeek在理想状态下的测算低估真实算力需求。 不考虑各类算力冗余。DeepSeek测算每人每天聊1.4句话的背景下,2400w月活仅需要1814张卡,引发了市场对于算力是否仍然紧缺的讨论,事实上通过对论文的深度解读,我们认为该论文可以更详细的勾画出未来算力的巨大需求: 1)目前deepseek仅2400w月活,未来若全民AI,则月活有极大提升空间; 2)目前测算的是每人每天聊1.4句话,若增加到10句、100句,则算力会成倍扩增; 3)当前DeepSeek的推理延迟(decode任务) 对输出吞吐约 14.8k tokens/s,仍然有较大提升空间; 4)该测算仅面向DeepSeek一个应用,未来人们一定是面向众多AI应用,算力需求会叠加进而达到极高水平。 参数 数据 备注 当前数据 输出token总数(个) 168B deepseek官方数据 平均输出速率(token/秒) 20-22 deepseek官方数 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览