谷歌开源Gemma2！魔搭社区推理、微调最佳实践教程

文章预览

01 导读 Google面向全球研究人员和 开发者发布并开源 Gemma 2 大语言模型！本次Gemma 2 系列为轻量级开放模型，提供 9B 和 27B 参数两种尺寸，采用全新的架构设计，性能表现优异。 官方技术报告总结， Gemma 2是一种新的开放模型标准，旨在实现效率和性能的最优化： 27B版本性能在基准测试中超越了比其规模大两倍的模型， 这一突破 性的效率为开放模型领域树立了新标准； 27B 模型可用在单个Google Cloud TPU主机、NVIDIA A100 80GB GPU 或NVIDIA H100 GPU上全精度高效运行推理，大幅降低成本的同时保持 高性能， 让模型部署更普 及、实惠； Gemma 2经过优化，可在各种硬件上以惊人的速度运行，从功能强大的游戏笔记本电脑和高端台式机，到基于云的设置。 技术报告： https://blog.google/technology/developers/google-gemma-2 Benchmark 以下为大家带来新鲜的 Gemma 2  魔搭社区推理、 ………………………………