本想去谷歌捞一笔就跑，却成了改变AI历史的人｜Transformer作者对话Jeff Dean

文章预览

梦晨 一水 发自 凹非寺 量子位 | 公众号 QbitAI 谷歌两位大佬回应一切：从PageRank到AGI的25年。 现任首席科学家 Jeff Dean 、出走又回归的Transformer作者 Noam Shazeer ，与知名播客主持人Dwarkesh Patel展开对谈。 视频刚发几个小时，就有20万+网友在线围观。 两人都是谷歌远古员工，经历了从MapReduce到Transformer、MoE，他们发明了很多改变整个互联网和AI的关键技术。 Noam Shazeer却谈到 当初入职谷歌只是为了捞一笔就跑 ，没想到成了改变世界的那个人。 在两个多小时的谈话中，他们透露了AI算力的现状： 单个数据中心已经不够了，Gemini已经在跨多个大城市的数据中心异步训练。 也对当下最流行的技术趋势做了探讨： 推理算力Scaling还有很大空间，因为与AI对话比读书仍然便宜100倍 未来的模型架构会比MoE更灵活，允许不同的团队独立开发不同的部分 …… 网友们也在 ………………………………