文章预览
上一篇文章， 听完“硅仙人”演讲聊聊AI的HW/SW contract ，基于Jim Keller在DAC61上的Keynote，讨论了一下HW/SW contract这个问题。这次我们进一步看看他对AI芯片技术理解和设计思路。 进入正题之前，先谈两个技术以外的问题。 第一，AI芯片的需求和挑战基本是明牌，但大家做法却有不同的思路（context也有很大差别）。AI芯片还没到终局的时候，即使是大神的说法，认真体会，做个参考就好。 Jim Keller在这次演讲里用了之前在X发的这个图，他是Sanity的（虽然经历了一些弯路），而其他人则是... 核心观点是他认为现在的主流做法过于复杂，成本太高，无法持续。有趣的是，图中躺枪的Cerebras最近针对Blackwell量产出现的问题做了一个视频，说早就预见到这个问题，批评这种做法无法扩展，所以从开始就采用了wafer scale engine这条路线。所以，到底谁是Sanity，最后
………………………………
