AI芯片，新变化

文章预览

👆如果您希望可以时常见面，欢迎标星🌟收藏哦~ 来源：内容来 自 semiengineering， 谢谢。 大型语言模型加大了可持续计算和异构集成的压力；数据管理成为关键的区别因素。 领先的人工智能系统设计正在从构建尽可能最快的人工智能处理器转向采用一种更加平衡的方法，包括高度专业化的异构计算元素、更快的数据移动和显著降低的功率。 这一转变的一部分围绕着采用 2.5D/3.5D 封装的芯片，这可以针对不同的工作负载和数据类型实现更大的定制化，并提高每瓦性能。除此之外，领先的芯片制造商还利用最近的Hot Chips 24会议展示了新颖的微架构、预取和分支预测方面的改进、更快的内存访问以及更智能的片上和片外数据管理。 由于当今电网的限制，政府机构和公用事业公司要求芯片制造商减少处理大型语言模型所需的能源，而芯片制造商正对此 ………………………………