技术博客 | NVIDIA NIM 现为开发者计划成员免费开放

文章预览

使用简单的 API 将预训练的 AI 基础模型集成到产品和体验的能力显著提高了开发者对 LLM 端点和应用开发框架的使用率。 NVIDIA NIM  使开发者和工程团队能够快速部署自己的 AI 模型端点，以便用热门开发工具和框架安全开发加速生成式 AI 应用程序。 开发者表示，出于开发目的，他们希望更轻松地访问 NIM，因此我们很高兴为超过 500 万  NVIDIA Developer Program  成员提供用于开发、测试和研究的可下载 NIM 的免费访问权限。该计划的成员可以获得全面的资源、培训、工具和专家社区，帮助构建加速应用程序和解决方案。 在本文中，我们简要介绍了 NIM 微服务的技术概述，重点介绍了一些可供下载和自托管部署的微服务，并提供了入门所需的手册资源以开始使用。 什么是 NIM 微服务？ NIM 提供用于跨云、数据中心和工作站自行托管 GPU 加速微服务的容器，用 ………………………………