专栏名称: 李楠或kkk

Angry Miao创始人喵司创始人。前魅蓝总裁，历任 SVP CMO 董事等等。。。 I saw its ordered happiness, but a fever in my blood asked for a wilder course.

今天看啥

公众号rss, 微信rss, 微信公众号rss订阅, 稳定的RSS源

微信公众号RSS订阅方法

B站投稿RSS订阅方法

雪球动态RSS订阅方法

微博RSS订阅方法

微博搜索关键词RSS订阅方法

知网期刊RSS订阅方法

相关文章推荐

四川商务 · 支持转内销信息发布后，大量咨询电话来了 · 22 小时前

雨生云计算 · # 谷歌敦促英国监管机构遏制微软云计算主导地位 · 昨天

sven_shi · 这事情可以做个参考。输不起的人 ... · 昨天

阿昆的科研日常 · 审稿专家：Your English is ... · 2 天前

北京应急 · 大风天气为何不能野外用火？ · 3 天前

今天看啥 › 专栏 › 李楠或kkk

其实很多人可能混淆了 LLM 的训练，理解推理和生成对算力的要求-20240729182448

李楠或kkk · 微博 · 科技自媒体 · 2024-07-29 18:24

文章预览

2024-07-29 18:24 本条微博链接其实很多人可能混淆了 LLM 的训练，理解推理和生成对算力的要求。所以他们天然会觉得模型对于算力的要求超越了今天的硬件水平。其实不考虑训练，压力主要在内存上。。。其他的还好，主要还是看你要干什么。训练，理解推理，生成这三个是完全不同的算力要求。其中训练最高，生成其次，理解推理最低。灵活运用，端侧 LLM 其实离我们没有那么遥远。就类似于 FSD V12 也突然就发布了， ………………………………

原文地址：访问原文地址
快照地址：访问文章快照
总结与预览地址：访问总结与预览

分享到微博

推荐文章

四川商务 · 支持转内销信息发布后，大量咨询电话来了

22 小时前

四川商务 · 支持转内销信息发布后，大量咨询电话来了

22 小时前

雨生云计算 · # 谷歌敦促英国监管机构遏制微软云计算主导地位

昨天

雨生云计算 · # 谷歌敦促英国监管机构遏制微软云计算主导地位

昨天

sven_shi · 这事情可以做个参考。输不起的人 -20250414001515

昨天

阿昆的科研日常 · 审稿专家：Your English is unbelievable

2 天前

阿昆的科研日常 · 审稿专家：Your English is unbelievable

2 天前

北京应急 · 大风天气为何不能野外用火？

3 天前

铁建国际 · 分享图片

7 月前

国家粮油信息中心 · 未来十天气温偏高利于农业生产浙江海南强风雨影响晚稻收晒

5 月前

欣说言语 · 【每日一题】一天一题学面试449

1 月前

工业园区科创人力资源俱乐部 · 企业投保还有补贴能拿，最高补贴30万！2025年保费申报开始啦！

1 月前