微软论文意外「走光」，OpenAI参数全泄密！GPT-4o仅200B，o1 300B

文章预览

图片来源：由无界AI生成 文章来源：新智元 谁能想到，微软在一篇医学领域的论文里，竟然把OpenAI模型的参数全「曝光」了！ GPT-4参数约1.76万亿 GPT-4o参数约2000亿 GPT-4o mini参数约80亿 o1-preview参数约3000亿 o1-mini参数约1000亿 Claude 3.5 Sonnet参数约1750亿 研究人员：参数均为估算值 让所有人难以置信的是，GPT-4o系列的参数如此少，mini版甚至只有8B。 有网友猜测，4o mini是一个大约有40B参数的MoE模型，其中激活参数为8B。 因为，他发现4o mini明显比8B模型学到了更多的知识，同时间运行速度很快。 此外，由于GPT-4o是MoE架构，所以OpenAI可能在mini版本上使用了相同的架构。 另有网友惊讶地表示，Claude 3.5 Sonnet参数竟等同于GPT-3 davinci。 这篇来自微软、华盛顿大学团队的论文中，发布了一个具有里程碑意义的评估基准——MEDEC1，专为临床笔记医疗错误检测和纠正而 ………………………………