月之暗面kimi底层推理系统方案揭秘（二）

文章预览

↑ 点击 蓝字  关注极市平台 作者丨ZHANG Mingxing 来源丨包包算法笔记 编辑丨极市平台 极市导读   深入探讨了月之暗面的底层推理平台—Mooncake。文章基于作者在知乎上的讨论和分享，特别是清华大学助理教授zhangmingxing的观点，详细介绍了Mooncake的分离式架构设计及其在实际应用中的优势和挑战。   >> 加入极市CV技术交流群，走在计算机视觉的最前沿 既上一篇许欣然的 月之暗面kimi底层推理 系统方案揭秘 ，本篇继续。 作者分享在知乎上引起了广泛讨论，很多system方向的大佬炸出来了，本文根据作者清华助理教授zhangmingxing的一些分享整理，欢迎大家去围观知乎讨论区： 李博杰（华为天才少年）：2020年我开始做分离式内存，做了非常高速的网络互联总线和很大的内存池（不能透露更多技术指标），当时搞了存储、数据库、AI和云混合部署等几个场景 ………………………………