专栏名称: 锌财经
读懂新经济,人民网投资的数字化内容机构。
今天看啥  ›  专栏  ›  锌财经

1张更比20张强!两位00后组图挑战英伟达

锌财经  · 公众号  ·  · 2024-07-07 18:47
    

文章预览

史上最快Transformer芯片诞生,英伟达地位或将不保! 就在前几天,芯片初创公司Etched宣布完成1.2亿美元的A轮融资, 并且在同一天发布了世界上第一个基于Transformer架构的专用芯片“Sohu”。 据说,这款芯片在跑Llama 70B时, 每秒可生成高达500000个token的输出, 相当于可以在两秒内写完一本《水浒传》 而这样的成绩: 是8张英伟达B200的10倍; 是8张英伟达H100的20倍。 换句话说,1张Sohu约等于10张英伟达B200;或者20张英伟达H100。 更关键的地方在于, 不管是OpenAI 的GPT系列, 还是谷歌的PaLM, 又或者是Facebook的LLaMa, 眼下几乎所有头部AI公司都在使用Transformer架构。 这意味着,Sohu芯片将可以大幅降低极大多数AI企业的运营成本。 而据Etched创始人透露,目前已经有匿名客户预订了数千万美元的硬件。 讲到这里,如果你觉得还不够震撼,那么我们再换个角度, ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览