“苹果打响抛弃英伟达GPU第一枪”

文章预览

美东时间7月29日，苹果公司发布iPhone AI的首个预览版，随后发布论文，称其人工智能模型是在谷歌的TPU（张量处理单元）上训练的。论文中介绍了为支持Apple Intelligence功能而开发的基础语言模型，包括一个设计用于在设备上高效运行的约30亿参数模型和一个基于私有云计算的云侧大模型。 苹果基础模型的建模概述苹果官方发布论文 苹果发布的论文称，他们在8192块TPU v4芯片上训练云侧AFM（Apple Foundation Model），使用4096的序列长度和4096个序列的批量大小，进行了6.3万亿token训练。端侧AFM在2048块TPU v5p芯片上进行训练。 苹果的决定表明，一些大型科技公司在人工智能训练方面可能正在寻找英伟达图形处理单元的替代品。 一些芯片行业媒体称，这是苹果打响了抛弃英伟达GPU的第一枪。 今年6月初，日本证券公司瑞穗证券估计，英伟达控制着用于训练和部署 ………………………………