在Rust中使用硬件卸载加速的异步运行时——以Linkerd为例实践

主要观点总结

文章介绍了戴翔及其在云原生行业的经历和贡献，重点阐述了英特尔®动态负载均衡器（DLB）的作用、特性及其在云原生软硬件结合新范式中的应用。文章还通过Linkerd2的例子展示了DLB如何加速Rust异步运行时，并解决了某些问题。最后，文章提到了第四代英特尔至强(Xeon)可扩展处理器和DLB等硬件加速器。

关键观点总结

关键观点1: 戴翔的背景和贡献

戴翔是Intel中国的云原生专家，曾参与微服务拆分、开发和治理，对开源社区有独到理解，目前专注于服务网格领域。他对多个云原生项目有贡献，是Dapr、Thanos、Golangci-lint的Maintainer。

关键观点2: 英特尔®动态负载均衡器（DLB）的特性

DLB是英特尔第四代至强处理器Sapphire Rapids的内置硬件加速卡，具有多种负载均衡队列，适用于不同场景。它能确保任务的平均分配和更好的CPU利用率，提供基于流的原子性，降低延迟和IO内存占用。

关键观点3: DLB如何加速Rust异步运行时和Linkerd2

由于Rust严格的向后兼容性要求和Tokio调度器在大吞吐场景下的性能问题，DLB被用于设计新的调度器。新调度器通过DLB实现任务分配，降低了调度开销和尾部延迟。在Linkerd2中，使用基于DLB的Rust异步运行时，可以有效降低延迟，适用于需要高效处理大量连接的场景。

关键观点4: 第四代英特尔至强(Xeon)可扩展处理器和硬件加速器

Sapphire Rapids是第四代英特尔至强可扩展处理器的代号，配备了新的硬件加速器，包括DLB。这些硬件加速器提高了处理器的性能。

文章预览

作者：戴翔 目前就职于 Intel 中国，从事云原生行业多年，曾全程参与微服务拆分、开发与治理，对微服务领域的上下游需求都有接触。 深耕开源，对多个云原生项目有大量贡献，2022 年成为微软 MVP。对开源社区的贡献与维护治理有独到理解，目前是 Dapr、Thanos、Golangci-lint 的 Maintainer。 现在主要专注于服务网格领域，探索云原生软硬件结合新范式。 Github ID: daixiang0 什么是英特尔 ® 动态负载均衡器 英特尔 ® 动态负载均衡器（英特尔 ® DLB）是连接生产者和消费者队列的硬件管理系统。它是英特尔第四代至强（Xeon）处理器 Sapphire Rapids 内置的硬件加速卡，实现如下的负载均衡特性: 硬件卸载的队列管理 提供了无锁队列 在多生产者/多消费者场景和将批处理排队到多个目的地场景提升巨大 动态的、流感知的负载均衡和重新排序 确保任务的平均分配和更 ………………………………