专栏名称: 阿虚同学
致力于生产收藏级的干货文章
目录
相关文章推荐
今天看啥  ›  专栏  ›  阿虚同学

上千开源大模型免部署直接用!英伟达原来藏了波大的!

阿虚同学  · 公众号  ·  · 2024-08-11 17:16

主要观点总结

本文主要介绍了几个可以免费在线体验开源大模型的网站,包括Nvidia、Mistral、Replicate和Chatbot Arena等。文章还提到了不同模型的特点和参数,以及国内可以访问的相关网站。

关键观点总结

关键观点1: Nvidia网站提供了主流开源大模型的在线体验,包括对话、绘图、生成视频等功能,且可以直接在线体验Llama-3.1-405B模型。

Nvidia是Al时代算力芯片的霸主,提供了丰富的在线体验功能。

关键观点2: Mistral网站提供了开源大模型Mistral Large 2的在线体验,并且可以直接注册登录免费使用。据相关评测,在代码生成、函数调用等领域表现突出。

Mistral在开源大模型领域有出色的表现,提供了便捷的在用体验。

关键观点3: Replicate网站提供了数千个开源大模型的在线运行,包括Llama 3.1-405B模型的简单体验,还有各种图像生成、视频生成等功能的模型可供体验。

Replicate是一个全面的开源大模型在线体验平台。

关键观点4: Chatbot Arena是一个大模型竞技场,可以公平地评估大模型的能力,并提供多种大模型的免费体验。

Chatbot Arena提供了一个评估和体验大模型的平台。


文章预览

阿虚同学 读完需要 5 分钟 速读仅需 3 分钟 前端时间,开源大模型又火了一把 Mate CE0 扎克伯格前脚发布 Llama 3.1-405B Mistral Αl 隔天就开源了 Mistral Large 2 各个都说比肩、超越 GРТ4,不少自媒体也都来蹭热点教大家怎么本地部署 但其实多数蹭热点视频都在 混淆视听 ,故意不介绍说明模型参数问题,比如 Llama 3.1-405B 有 4050亿 参数,的确在某些测试中超过了GРТ4-o 但 405B 这个模型别说个人电脑,甚至很多公司都跑不起来 各种视频里教你部署的,也就 Llama3.1-7B 或者 13B 模型 ,这俩模型只有 10 亿左右参数,随随便便拉一个在线国产 Αl 出来,都起码是千亿级参数 而参数就相当于模型的神经元,所以你可以试想得出 10 亿级别参数的模型体验几何 排除一些内网环境无法使用在线 Αl,或者对隐私及其在意,一般人根本没有折腾的必要 不过既然都写到这儿了 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览