超大规模分布式异构智能算力管理和调度的关键技术-深度分析2024

文章预览

1、分布式异构算力管理和调度的关键技术能力 异构算力多元泛在，对算力的管理平台提出了新的挑战。异构算 力管理平台实现多种异构算力的管理和调度，并为智算应用提供应用层的推理和训练技术栈的支持， 主要实现以下主要核心能力： 动态资源管理： 管理 CPU 、 GPU 、 FPGA  等异构算力的注册和接 入，算力拓扑信息，算力实时状态信息，实现对算力资源的虚拟化和池化的资源重构，提供细粒度的资管管理和隔离； 资源调度编排： 实现异构算力节点的灵活调度，实现任务与节点 资源的灵活编排，多以容器技术基于  Kubernetes  定制化研发实现 对任务和资源灵活编排调度，为上层功能模块提供资源能力； 异构算 力适配： 提供适配异构算力的从底层驱动到应用层框架整 体技术栈的适配支持，以保证应用在不同算力节点上能弹性迁移调度，例如 ………………………………