3U 8卡：对AI推理服务器意味着什么？

文章预览

目录 -  3U 机架式服务器的驱动因素 -  PCIe Switch 与 GPU 直通 CPU 的区别 -  OCP Grand Teton AI 服务器：训练和推理的配置异同 -  EDSFF SSD 、 EPYC CPU 散热器一瞥 -  支持 MI308X GPU 的服务器，来自谁家 … -  2U 4 节点双路 500W CPU ：风冷 / 液冷？ 上周四（ 12 月 5 日）在北京举办的“ AMD Advancing AI 中国解决方案峰会”，我去看个热闹。参展的服务器 OEM 、 ODM 厂商、展出的机型数量都比较可观，有点让我感觉回到几年前灯厂（樱桃司）同类市场活动的感觉。 我还看到一个特点，就是现场的样机大约 半数以上为 GPU 服务器机型 ，显然受当今 AI 热潮的影响。大家既然来露个脸，非 GPU 优化的传统服务器感觉新意不大吧。 虽然我拍了不少照片，但由于时间和精力有限，只能挑一些重点分享给大家。受限于个人水平，以及对各家服务器机型的了解，如描述有误或不足 ………………………………