实测最新端侧全模态大模型Megrez-3B-Omni

文章预览

↑ 点击 蓝字  关注极市平台 作者丨刘聪NLP 来源丨刘聪NLP 编辑丨极市平台 极市导读   本文通过实际测试，展示了模型在文本、图像、语音三个方面的表现，并探讨了一个相关的web-search项目，该项目可以帮助用户搭建自己的本地搜索服务。总体上，Megrez-3B-Omni在多模态任务中展现了较好的性能，尤其是在资源受限的端侧部署场景下。  >> 加入极市CV技术交流群，走在计算机视觉的最前沿 大家好，我是刘聪NLP。中午看到无问芯穹开源了一个端侧全模态大模型-Megrez-3B-Omni，马上来测测看，效果如何。 Github: https://github.com/infinigence/Infini-Megrez   HF: https://huggingface.co/Infinigence/Megrez-3B-Omni   Demo: https://huggingface.co/spaces/Infinigence/Megrez-3B-Omni   先说点题外话，大模型发展到现在，虽说参数越大，模型越智能，但毕竟现在GPU资源还是蛮紧张的，太大的模型消耗 ………………………………