专栏名称: AIGC新智界
区块链/数字货币/比特币中文资讯,创立于2011年,200多位专栏作入驻平台,国内最大区块链资讯原创基地(公众号【原创】认证),我们为以下合作伙伴供稿:火币、OKCoin、BTC.com、BTCC、币看、BTC123、比特时代、挖币网
今天看啥  ›  专栏  ›  AIGC新智界

00后华裔小哥哈佛辍学组团挑战英伟达,史上最快AI芯片Sohu推理性能超H100二十倍!

AIGC新智界  · 公众号  · 比特币  · 2024-06-26 17:07
【导读】史上最快Transformer芯片诞生了!用Sohu跑Llama 70B,推理性能已超B200十倍,超H100二十倍!刚刚,几位00后小哥从哈佛辍学后成立的公司Etached,宣布再融资1.2亿美元。有史以来最快的Transformer芯片,刚刚诞生了?去年21岁哈佛辍学华裔小哥的神级创业故事,进化到了新的阶段。这一次,号称专为LLM推理加速打造的Sohu芯片,已经成超越Groq,成为最强AI芯片。如今的Sohu,在跑Llama 70B时每秒可生成高达500000个token的输出。换句话说就是:1张Sohu≈20张H100≈10张B200。在去年12月,Etced就曾火过一阵,当时两位哈佛辍学小哥的2人公司,估值已经高达3400万刀。当时Sohu号称LLM推理性能达到H100的10倍,单价吞吐量更是高达140倍。而就在刚刚,Etced又宣布了炸裂的新消息:已筹到1.2亿美元。就在上周,英伟达的市值达到3.3万亿美元,超过微软成为全球第一。而Etched ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照