主要观点总结
本文介绍了马斯克旗下xAi即将推出的grok3模型,该模型被称为全世界最聪明的大模型,具有惊人的硬件配置和预训练算力。同时,文章还介绍了另一家有趣的公司Groq,其自研的大模型和AI芯片引起业界关注。文章讨论了Groq的核心技术——语言处理单元(LPU)和其与Nvidia的GPU、SRAM的关系等,并指出Groq的闪电演示视频引发了广泛关注。最后,文章讨论了Groq和deepseek的合作可能性以及未来的行业变革。
关键观点总结
关键观点1: 马斯克旗下xAi推出的grok3模型即将面世,被誉为全世界最聪明的大模型。
grok3具有惊人的硬件配置和预训练算力,Colossus超算集群和10万块NVIDIA H100 GPU为其提供支持。
关键观点2: 另一家公司Groq引起关注,其自研的大模型和AI芯片Groq一夜爆火。
Groq的大模型能够每秒输出近500个token,碾压ChatGPT-3.5等现有模型。其核心技术是语言处理单元(LPU),运行速度快,但存在成本问题和正确率的问题。
关键观点3: Groq的AI芯片技术有望打破AI聊天机器人的瓶颈。
Groq的AI芯片——语言处理单元(LPU)的运行速度超越了Nvidia的GPUs。第三方测试报告显示,Groq的产出速度高达每秒247个标记,远超其他聊天机器人。
关键观点4: Groq的创始人兼CEO Jonathon Ross对AI芯片技术有深入了解。
他表示,通过LPUs,Groq成功绕过了GPUs和CPUs在计算密度和内存带宽上的限制,从而大大提升了大型语言模型(LLM)的运行速度。
关键观点5: Groq的LPU芯片和SRAM的关系被形象地比喻为“跑车与发动机”。
LPU需要SRAM来“飙速度”,SRAM的超快读写速度让LPU处理语言任务时更快、更省电。投资LPU产业链需关注SRAM供应商。
文章预览
马斯克最近在天天在吹,北京时间他旗下的xAi本周二中午将推出grok3,而这将是全世界最聪明的大模型,远超deepseek。 grok3硬件配置很惊人:Colossus超算集群,10万块NVIDIA H100 GPU。预训练算力是Grok 2的10倍。DogeDesigner说这将是"世界上最强大的AI"。简单说,这就是英伟达大力出奇迹的代表产物,所以周一所有英伟达链条的公司又在反弹。 GROK3似乎有点东西 不过呢,有另外一家去年大火的有意思的公司,名字和grok很像叫做Groq。其实一开始马斯克想给自己ai起名叫groq,可惜被注册了,最后叫Grok,当时Groq的创始人还和他有过争执,认为马斯克蹭他热度。 不过现在好了,伴随着Grok3即将面世,Groq也在华尔街被反向带起了热度。2 月 11 日消息,AI 推理芯片初创公司 Groq 当地时间昨日宣布,沙特阿拉伯承诺向其投资 15 亿美元。 在9个月前,曾经有一个微博吹deepsee
………………………………