大语言模型LLM和生成式AI的初创企业如何选择GPU服务？

文章预览

2023年7月9日 马克·拉罗萨（Mark LaRosa） Top Considerations for Infrastructure for LLMS and Generative AI 在Amplify，我与早期技术公司合作，这让我经常接触到围绕大型语言模型（LLM）和生成性AI的迷人新概念。这些项目中的许多都处于计算领域的新前沿，将界限推向了我们之前尝试过的界限之外。 但有一个问题：开创性的项目需要坚实的基础，才能真正扩大规模并处理涉及的更高层次问题。 直接跳入训练模型并部署它们进行推理可能很诱人——毕竟，这是有趣的部分。但现实是，你在这个阶段做出的基础设施决策可能会为你的LLM或生成性AI项目设定成功——或者让你后来处理巨额技术债务。 在加入Amplify之前，我在亚马逊AWS担任战略客户的主要解决方案架构师。这让我有机会接触到世界上一些规模最大的客户，特别是他们在超大规模时遇到的一些独特的痛点。在Am ………………………………