【天风海外 | 美股AI周报】微软计划25财年投资800亿美元用于AI智算中心，英伟达收购Run:ai

文章预览

 天风海外团队 正文 微软计划25财年投资800亿美元用于AI智算中心，英伟达收购Run:ai 主要股指： 道琼斯指数-0.60%，标普500指数-0.48%，纳斯达克指数-0.51%。 宏观经济： 截止至12月28日当周的首次申领失业救济人数减少至211,000人，低于绝大部分接受彭博调查的人的预期。同时，12月21日当周持续申请失业金人数降低至三个月低点，为184万人。 Meta：发布“记忆层”相关研究，允许在不增加算力的情况下显著增加大模型的参数。 Meta研究的记忆层（Memory Layer）提出了新的高效查询机制，能解决Transformer架构在预训练大模型时由于参数增加导致存储和查询数据时算力需求会呈现指数级增长的问题。在实践中，研究人员在仅有1.3亿参数的模型中添加了128亿额外的记忆参数，其性能与Meta开源的Llama 2- 70相当，而算力却比它低了10倍左右。 我们认为 ，这一研究有望 ………………………………