下个月起，NVIDIA开发者免费享受NIM服务，彻底改变生成式AI应用开发方式

文章预览

NVIDIA最近发布了NIM™，这是一项革命性的推理微服务技术，使全球2800万开发者能更容易地创建生成式AI应用。NIM为模型提供了优化的容器，可在云、数据中心或工作站上迅速部署。这一创新有望将生成式AI应用（如副驾驶和聊天机器人）的开发时间从数周大幅缩短至几分钟。 生成式AI应用正在不断发展，通常融合了多个能够生成文本、图像、视频、语音等的模型。NIM通过提供一种标准化、简化的方法，将生成式AI集成到各种应用中，从而极大地提高了开发者的生产力，简化了这一过程。 此外，NIM还使企业能够充分利用其基础设施投资。例如，使用NIM在加速基础设施上运行Meta Llama 3-8B，可以产生多达三倍的生成式AI令牌。这种效率的提升使企业能够利用相同的计算资源生成更多的响应。 近200家技术合作伙伴，包括Cadence、Cloudera、Cohesity、DataStax、NetApp ………………………………