专栏名称: 歸藏的AI工具箱
互联网科技博主 产品设计师、模型设计师、 不会代码的独立开发者。 关注人工智能、LLM 、 Stable Diffusion 和设计。
目录
相关文章推荐
小众软件  ·  另外两件事[241123] ·  2 小时前  
APPSO  ·  华为 Mate 70 ... ·  6 天前  
今天看啥  ›  专栏  ›  歸藏的AI工具箱

转发微博-20240702194433

歸藏的AI工具箱  · 微博  ·  · 2024-07-02 19:44

文章预览

2024-07-02 19:44 本条微博链接 转发微博 月之暗面发布了Kimi的底层推理平台Mooncake的技术报告 网页链接 “Mooncake 是 Moonshot AI 提供的领先大规模语言模型(LLM)服务Kimi的服务平台。其特色在于采用了一种以KVCache为中心的分散式架构,这种架构将预填充(prefill)和解码(decoding)集群分离。此外,Mooncake还利用了GP ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览