专栏名称: 图灵人工智能
人工智能及其他科技学术前沿、机器学习、图像识别、语音识别、自动驾驶、自然语言处理、脑机接口、云计算、大数据、物联网、机器人、天文物理、生物科学、数学、区块链、比特币、计算机等学术前沿知识、报告、讲座等介绍。
今天看啥  ›  专栏  ›  图灵人工智能

李沐交大演讲全文:创业的动机要么来自欲望,要么来自恐惧

图灵人工智能  · 公众号  ·  · 2024-09-02 00:00
    

文章预览

点击上方“ 图灵人工智能 ”,选择“星标”公众号 您想知道的人工智能干货,第一时间送达                           AI大神李沐在母校上海交大的演讲火了。 在这场一个半小时的演讲里,李沐从大模型的算力和技术、多模态趋势、应用现状聊到了自己的AI创业心得、以及创业的痛苦和感悟。 可以说,比他那篇创业回顾(《 李沐:创业一年,人间三年 》)信息量更大。 一些有意思的点: 机器学习是老中医,深度学习特别是大语言模型像炼丹,数据是炼丹的材料,算力是炼丹的火力和设备,算法就是丹方了。丹方每年都在进步,即使丹方一样,细节不一样结果也会很不一样。 内存是目前模型尺寸的一大瓶颈,英伟达虽然是领先者,但在这块的技术不如AMD和TPU。 语言模型参数规模的主流会在100B-500B之间,比较好的一线的模型就是 500B,超过 500 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览