主要观点总结
文章主要围绕国产AI基础的突破和进展展开,提到了华为和DS公司的重要性,以及国产AI基础设施的自主创新和发展趋势。
关键观点总结
关键观点1: 全网最先发布关于国产AI基础创新的讨论。
文章提到了发布内容的时机,强调感谢华为和oneflow的包容和照顾,并突出了国产AI基础创新的重要性。
关键观点2: 国产AI公司的突破令人兴奋。
文章提到华为和DS可能是国产AI基础创新最重要的两家公司,它们的突破令人兴奋。
关键观点3: NV已经测试了GB200的性能,并创下了throughput纪录。
文章详细描述了NV测试的GB200的性能数据,以及未来的更新计划。
关键观点4: 开源的意义在于生态共同努力,使得适配工作量大幅降低。
文章强调了开源的重要性,以及开源如何帮助降低适配工作量。
关键观点5: AI产业链的全国产闭环仍在逐步接近,但还存在训练与产能两大瓶颈工程。
文章指出了AI产业链的发展状况,包括已经取得的进展和仍存在的挑战。
文章预览
一早放在星球,算是全网最先,抢在华为和oneflow 发布之前提前说了…也感谢两边大佬们照顾和包容。但国产的突破的确令人兴奋,何况华为和 DS,这可能是国产 AI 基础创新最重要的两家公司。 NV 已经测了GB200 跑 r1,跑出了3800 token /秒的throughput纪录,H100大概100 左右。910B过两周会更新些通信算子,最终会与 H100 相当。 以及大家问最多的 910C跑 r1 ,华为云内部 910C 部署已经开始,因此是个时间问题,大概率超H100 引述下 Y 博:以前910有用没用, 通义豆包这些兄弟说了算;现在910有用没用,昇腾自己说了算。 就是我们之前讲过的,这就是开源的意义,生态一起努力 。AMD,华为,甚至寒武纪?总之适配的工作量大幅降低。当然,推理最终是个服务,比拼复杂场景并发serving 的效率,是个软硬件协同优化的结果。国内选择并不多,能匹配H100 够用了。 HW
………………………………