对国内AI算力紧缺问题的若干看法

文章预览

来源丨互联网怪盗团（TMTphantom） 作者丨怪盗团团长裴培 图源丨摄图网 今天凌晨的苹果WWDC证实了一点：AI推理算力将长期处于“云端为主”的状态，这个“长期”至少是三到五年。是的，苹果与OpenAI建立了战略合作，计划将下一代iOS系统与ChatGPT深度融合；但是绝大部分生成式AI推理，包括文字和图片生成任务，仍将上传到ChatGPT的数据中心，在云端完成。 关于这一点，OpenAI在公告中已经说得很清楚了。苹果的“端侧AI”主要仍局限于软件层面。 如果连苹果都做不到推理算力的“端侧化”，那么其他手机厂商就更做不到了。PC端可能比移动端的进展稍微好一点，但是在可见的未来，大部分AI PC（包括桌面工作站）仍将基于英伟达的桌面级显卡，而且只能执行参数规模相对较小的（蒸馏后的）大模型推理。 无论从技术角度还是成本角度考虑，大模型及 ………………………………