文章预览
在2024亚马逊云科技re:Invent全球大会上, 亚马逊云科技宣布Amazon Trainium2 Server正式可用,并推出全新的Amazon Trainium2 UltraServer ,让用户以优越的性价比训练和部署最新的人工智能模型,以及未来的大语言模型(LLM)和基础模型。此外,亚马逊云科技还 发布了新一代Amazon Trainium3芯片 。 Amazon Trainium2芯片 与当前基于GPU的EC2 P5e和P5en实例相比, Amazon Trainium2 Server的性价比提升30-40% 。 它配备1 6个Amazon Trai nium2芯片,可提供高达20.8 PFLOPS浮点算力的性能, 非常适合训练和部署具有数十亿参数的大语言模型 。 全新推出的Amazon Trainium2 UltraServer服务器机型配备 64 个相互连接 的Amazon Trainium2芯片,采用NeuronLink超速互 连技术,可提供高达83.2 PFLOPS浮点算力, 其计算、内存和网络能力是单一实例的四倍 ,能够支持训练和部署超大规模的模型。 亚马逊云科技携手Anthropi
………………………………