searchusermenu
  • 发布文章
  • 消息中心
点赞
收藏
评论
分享
原创

Intel CPU技术之RDT资源调配技术

2023-09-25 02:28:03
149
0

Intel CPU技术之RDT资源调配技术

英特尔® 资源调配技术 (Intel® Resource Director Technology) 专为优化资源利用而设计,其特点是使得应用程序、虚拟机 (VM) 和容器使用共享资源(例如最新级别高速缓存 (LLC) 和内存带宽等)的方式的可见性和控制,从而实现在工作负载整合密度、性能稳定性的新提升,并降低总拥有成本 (TCO) 。RDT使用其内建硬件特性来监控甚至控制某些共享系统资源的分配确保为重要的应用提供更出色服务质量。RDT能够确保高优先级应用优先获得服务器资源。英特尔® RDT 提供了一个由多个组件功能(包括 CMT、CAT、CDP、MBM 和 MBA)组成的框架,用于缓存和内存监控及分配功能。这些技术可以跟踪和控制平台上同时运行的多个应用程序、容器或 VM 使用的共享资源,例如最后一级缓存 (LLC) 和主内存 (DRAM) 带宽。RDT 可以帮助检测“noisy neighbor”并减少性能干扰,从而确保复杂环境中关键工作负载的性能。在混合部署场景,cgroup提供了粗粒度的CPU、内存、IO等资源的隔离和分配,但是对于每个CPU,这些核心会独占自己的L1 Cache、L2 Cache,对于LLC则是共享的,cgroup无法解决llc的竞争问题,因此需要提供细粒度的LLC资源的分配和监控。RDT技术提供了MSR(Model Specific Register)寄存器作为编程接口,主要包括三个寄存器IA32_PQR_ASSOC、IA32_QM_EVTSEL和IA32_QM_CTR。

  • 高速缓存监控技术 (CMT)

借助监控单个线程、应用程序或 VM 对最后一级缓存 (LLC) 的利用率所获得的新洞察,CMT 改进了工作负载表征,实现了先进的资源感知型调度决策,能帮助检测“noisy neighbor”,并改进性能调试。

英特尔® RDT通过缓存监控技术监视缓存使用情况,如果有低优先级程序占用太多缓存,可以通过SLA(服务级别协议)移除低优先级程序,从而满足高优先级程序资源请求。

注意:Intel Cascade Lake才开始具备这个技术

  • 高速缓存分配技术 (CAT)

CAT 支持软件引导的缓存容量重新分配,使重要的数据中心 VM、容器或应用程序能够从提升缓存容量和减少缓存争用中受益。CAT 可用于增强运行时确定性,并且在各种优先级工作负载的资源争用中优先考虑重要的应用程序,如虚拟交换机或数据平面开发套件 (DPDK) 数据包处理应用程序。

英特尔® RDT通过缓存分配技术为工作负载分配预定义的高速缓存资源并为该工作负载的数据和代码划分优先等级,确保关键业务获得所需的缓存资源,无需迁移其他工作负载即可实现高运行性能

  • 代码和数据优先级 (CDP)

代码和数据优先级 (CDP) 作为 CAT 的专用扩展,实现了对最新级别 (L3) 高速缓存中代码和数据放置的独立控制。某些特殊类型的工作负载可从增加的运行时决策中受益,从而提高应用程序性能的可预测性。

  • 内存带宽监控 (MBM)

内存带宽监控 (MBM) 可以独立跟踪多台虚拟机或多个应用程序,同时对每个运行线程进行内存带宽监控。优点包括:对“noisy neighbor”的检测,对带宽敏感型应用程序的性能界定和调试的检测,以及对更高效的非一致性内存访问 (NUMA) 感知型调度的检测。

该技术支持按 RMID(实际上是按线程、应用程序或虚拟机)跟踪每个线程的最后一级缓存 (LLC) 使用情况。 CMT 可以有效地检测缓存中的noisy neighbor、了解应用程序的缓存敏感性以及调试性能问题。然而,为了充分了解应用程序行为,还需要监控内存带宽,因为一些应用程序由于工作集非常小(计算限制)或非常大的工作集不适合缓存(流应用程序)而具有较低的缓存敏感性。

  • 内存宽带分配 (MBA)

MBA 可对工作负载可用的内存宽带进行近似和间接控制,从而为系统中存在的“noisy neighbor”提供全新水平的干扰抑制和带宽整形。

0条评论
0 / 1000
张****远
4文章数
0粉丝数
张****远
4 文章 | 0 粉丝
张****远
4文章数
0粉丝数
张****远
4 文章 | 0 粉丝
原创

Intel CPU技术之RDT资源调配技术

2023-09-25 02:28:03
149
0

Intel CPU技术之RDT资源调配技术

英特尔® 资源调配技术 (Intel® Resource Director Technology) 专为优化资源利用而设计,其特点是使得应用程序、虚拟机 (VM) 和容器使用共享资源(例如最新级别高速缓存 (LLC) 和内存带宽等)的方式的可见性和控制,从而实现在工作负载整合密度、性能稳定性的新提升,并降低总拥有成本 (TCO) 。RDT使用其内建硬件特性来监控甚至控制某些共享系统资源的分配确保为重要的应用提供更出色服务质量。RDT能够确保高优先级应用优先获得服务器资源。英特尔® RDT 提供了一个由多个组件功能(包括 CMT、CAT、CDP、MBM 和 MBA)组成的框架,用于缓存和内存监控及分配功能。这些技术可以跟踪和控制平台上同时运行的多个应用程序、容器或 VM 使用的共享资源,例如最后一级缓存 (LLC) 和主内存 (DRAM) 带宽。RDT 可以帮助检测“noisy neighbor”并减少性能干扰,从而确保复杂环境中关键工作负载的性能。在混合部署场景,cgroup提供了粗粒度的CPU、内存、IO等资源的隔离和分配,但是对于每个CPU,这些核心会独占自己的L1 Cache、L2 Cache,对于LLC则是共享的,cgroup无法解决llc的竞争问题,因此需要提供细粒度的LLC资源的分配和监控。RDT技术提供了MSR(Model Specific Register)寄存器作为编程接口,主要包括三个寄存器IA32_PQR_ASSOC、IA32_QM_EVTSEL和IA32_QM_CTR。

  • 高速缓存监控技术 (CMT)

借助监控单个线程、应用程序或 VM 对最后一级缓存 (LLC) 的利用率所获得的新洞察,CMT 改进了工作负载表征,实现了先进的资源感知型调度决策,能帮助检测“noisy neighbor”,并改进性能调试。

英特尔® RDT通过缓存监控技术监视缓存使用情况,如果有低优先级程序占用太多缓存,可以通过SLA(服务级别协议)移除低优先级程序,从而满足高优先级程序资源请求。

注意:Intel Cascade Lake才开始具备这个技术

  • 高速缓存分配技术 (CAT)

CAT 支持软件引导的缓存容量重新分配,使重要的数据中心 VM、容器或应用程序能够从提升缓存容量和减少缓存争用中受益。CAT 可用于增强运行时确定性,并且在各种优先级工作负载的资源争用中优先考虑重要的应用程序,如虚拟交换机或数据平面开发套件 (DPDK) 数据包处理应用程序。

英特尔® RDT通过缓存分配技术为工作负载分配预定义的高速缓存资源并为该工作负载的数据和代码划分优先等级,确保关键业务获得所需的缓存资源,无需迁移其他工作负载即可实现高运行性能

  • 代码和数据优先级 (CDP)

代码和数据优先级 (CDP) 作为 CAT 的专用扩展,实现了对最新级别 (L3) 高速缓存中代码和数据放置的独立控制。某些特殊类型的工作负载可从增加的运行时决策中受益,从而提高应用程序性能的可预测性。

  • 内存带宽监控 (MBM)

内存带宽监控 (MBM) 可以独立跟踪多台虚拟机或多个应用程序,同时对每个运行线程进行内存带宽监控。优点包括:对“noisy neighbor”的检测,对带宽敏感型应用程序的性能界定和调试的检测,以及对更高效的非一致性内存访问 (NUMA) 感知型调度的检测。

该技术支持按 RMID(实际上是按线程、应用程序或虚拟机)跟踪每个线程的最后一级缓存 (LLC) 使用情况。 CMT 可以有效地检测缓存中的noisy neighbor、了解应用程序的缓存敏感性以及调试性能问题。然而,为了充分了解应用程序行为,还需要监控内存带宽,因为一些应用程序由于工作集非常小(计算限制)或非常大的工作集不适合缓存(流应用程序)而具有较低的缓存敏感性。

  • 内存宽带分配 (MBA)

MBA 可对工作负载可用的内存宽带进行近似和间接控制,从而为系统中存在的“noisy neighbor”提供全新水平的干扰抑制和带宽整形。

文章来自个人专栏
硬件
4 文章 | 1 订阅
0条评论
0 / 1000
请输入你的评论
0
0