社区供稿 | RWKV-6-World 14B正式开源发布，迄今最强的稠密纯RNN大语言模型

文章预览

2024年7月19日，RWKV 开源基金会宣布正式向全球开源 RWKV-6-World 14B 模型。 RWKV-6-World 14B 是迄今最强的稠密纯 RNN 大语言模型 。 在最新的性能测试中， RWKV-6-World 14B 模型英文性能相当于 Llama2 13b。此外，在同参数的模型评测中，RWKV-6-World 14B 的 多语言性能显著最强 ，且 支持全球100+种语言和代码 。 在“无法作弊的模型评测” Uncheatable Eval 排行榜中，RWKV-6-World 14B 的综合评测分数比 llama2 13B 和 Qwen1.5 14B 更强。 评测数据 本次模型基准测试涵盖了 4 款接近 14B 参数规模的开源大语言模型。 在测试中，英语的性能测试将通过 12 个独立的基准测试来衡量大模型在常识推理和世界知识等英语内容上的表现。 多语言能力的评估中，则采用了 xLAMBDA、xStoryCloze、 xWinograd 和 xCopa 四种基准测试，深度探索了评估模型在多语言环境中的逻辑推理、故事理解、歧义解决 ………………………………