专栏名称: AIGC开放社区
专注AIGC(生成式人工智能)领域的专业社区,关注GPT-4、百度文心一言、华为盘古等大语言模型(LLM)的发展应用和落地,以及国内LLM的发展和市场研究,社区秉承共建、共享、开放的理念,提供对社区会员有价值的商业化思路和服务。
今天看啥  ›  专栏  ›  AIGC开放社区

英伟达因AI芯片设计缺陷,推迟产品上市时间

AIGC开放社区  · 公众号  ·  · 2024-08-05 07:53

文章预览

专注AIGC领域的专业社区,关注微软 、百度文心一言、讯飞星火等大语言模型(LLM)的发展和 应用 落地,聚焦LLM的市场研究和AIGC开发者生态,欢迎关注! The Information消息,英伟达新的AI芯片,可能因设计缺陷而延迟Blackwell B200产品上市时间。 英伟达的Blackwell B200 AI芯片是H100芯片的后续产品性能非常强,原计划于2024年夏季开始大量提供,因为产品延迟预计要到2024年底或2025年第一季度才会大量出货。 GB200是一款专门面向万亿参数大模型训练、推理的产品,例如,在训练MoE(专家混合模型)时,需要多个子模型之间分配计算负载,并在数千个GPU上进行训练。这需要超高的并行计算、快速存储和高性能通信以及在大规模GPU集群下才能完成。 与上一代的H100相比,GB200 NVL72可以将训练效率提升4倍,数据处理提升6倍,实时推理效率提升30倍。 目前,微软、 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览