商汤、清华、复旦等开源百亿级多模态数据集，可训练类GPT-4o模型

文章预览

专注AIGC领域的专业社区，关注微软 、百度文心一言、讯飞星火等大语言模型（LLM）的发展和 应用 落地，聚焦LLM的市场研究和AIGC开发者生态，欢迎关注！ 商汤科技、清华大学、上海AI实验室、哈尔滨工业大学、香港中文大学、复旦大学和南京大学的研究人员联合开源了百亿级图文交错数据集——OmniCorpus。 与现有的MMC4、OBELICS等数据集相比，OmniCorpus在规模上扩大了15倍，包含86 亿张图像和16,960亿个文本标记。在数据质量上同样出色，不仅涵盖了英语网站，还包含了非英语网站及视频为中心的平台，确保了内容的广泛性和丰富性。 此外，OmniCorpus还可以从图像文本交织格式轻松降级为纯文本语料库或图像文本对，以满足不同领域研究需求。 开源地址：https://github.com/OpenGVLab/OmniCorpus 论文地址：https://arxiv.org/abs/2406.08418 OmniCorpus数据集介绍 为了抓取不同 ………………………………