文章预览
2024-12-27 15:20
本条微博链接
【大模型风向变化, #英伟达迅速迭代GPU# 】根据 SemiAnalysis 报告,随着 OpenAI 在 3 个月内接连发布 o1、o3 推理模型,英伟达迅速推出 GPU B300,适应最新的风向。此时距离英伟达推出 B200 不过半年,尽管在这个过程中因为芯片、封装、背板等问题,多次延期交付。 相比 B200,B300 的算力、显存分别提高 50%,功率也上涨到 1.2 kW,消耗的更多的电力,可以减少 o1 这类推理模型的延迟和计算成本,也能
………………………………