searchusermenu
  • 发布文章
  • 消息中心
点赞
收藏
评论
分享

英特尔 至强 CPU Max 系列及内存模式介绍

2024-07-05 09:56:34
48
0

英特尔 至强 Max 系列处理器是唯一一款基于 x86 的高带宽内存 (HBM) 处理器,可最大程度提高带宽。英特尔 Max 系列 CPU 在架构设计上大幅增强采用 HBM 的英特尔 至强 平台的性能,相较于竞品,其针对实际工作负载的性能提升了 4.8 倍,比如建模、人工智能、深度学习、高性能计算 (HPC) 和数据分析。包括以下几个型号:

英特尔® 至强® CPU Max 9468 处理器(105 M 高速缓存,2.10 GHz,48核)

英特尔® 至强® CPU Max 9460 处理器(97.5 M 高速缓存,2.20 GHz,40核)

英特尔® 至强® CPU Max 9470 处理器(105 M 高速缓存,2.00 GHz,52核)

英特尔® 至强® CPU Max 9480 处理器(112.5 M 高速缓存,1.90 GHz,56核)

英特尔® 至强® CPU Max 9462 处理器(75 M 高速缓存,2.70 GHz,32核)

处理器框图如下图所示:

处理器示意图

图 1 处理器示意图

处理器包含 4 个 HBM2e 堆栈,每个处理器的高带宽内存 (HBM) 总容量超过 60GB,另外还有 8 通道 DDR 内存。双路系统中,两个处理器通过最多 4 个英特尔 超级通道互联(Intel Ultra Path Interconnect,英特尔 UPI)链路连接。双路系统的 HBM 总容量为 128 GB。

图 2  HBM 中的内存堆栈

HBM 内存由多个 DRAM 内存堆栈组成,通过宽总线连接。每个堆栈包含 8 个堆叠在底层逻辑芯片上的 DRAM。英特尔至强CPU Max 系列处理器配备 4 个堆栈,HBM 总容量超过 60GB。

CPU配置

英特尔至强CPU Max 系列(封装或插槽)处理器中的 HBM 和 DDR 内存可以采用三种内存模式和两种集群模式进行配置。

三种内存模式

图 3  HBM 内存模式

1 “仅 HBM”内存模式

若未安装 DDR,可选择“仅 HBM”内存模式。在此模式下,HBM 是操作系统和应用唯一可用的内存。所有已安装的 HBM 都对操作系统可见,而应用则会看到操作系统暴露的部分。因此,操作系统和应用均可随时使用 HBM。但操作系统、后台服务和应用必须共享可用的 HBM 容量(每处理器 超过60 GB,实际六十四GB)。

2  “Flat”模式或一级内存 (1LM) 模式

若已安装 DDR 内存,可在系统启动时于 BIOS 菜单中选择“Flat”(也称 1LM)模式,使 HBM 和 DDR 对软件可见。在此模式下,HBM 和 DDR 各自作为独立的地址空间对软件可见,即 DDR 作为一个独立的地址空间(NUMA 节点)为软件所见,而 HBM 作为另一个地址空间(NUMA 节点)为软件所见。如下文第 6.2 节所述,用户需要使用 NUMA 感知工具(例如 numactl)或库,才能在该模式下使用 HBM。其他操作系统配置需在 HBM 作为常规内存池一部分被访问前完成。

3  “缓存”模式或二级内存 (2LM) 模式

若已安装 DDR,可在系统启动时于 BIOS 菜单中选择“缓存”(也称 2LM)模式,使 HBM 作为 DDR 的内存侧缓存。在该模式下,仅 DDR 地址空间对软件可见,而 HBM 则作为 DDR 的透明内存侧缓存。因此,应用和命令行无需修改即可使用“缓存”模式。HBM 属于直接映射缓存,可能需要额外采取配置步骤才能尽量减少冲突未命中 (conflict miss) 这种情况。

0条评论
0 / 1000
悟****空
6文章数
0粉丝数
悟****空
6 文章 | 0 粉丝

英特尔 至强 CPU Max 系列及内存模式介绍

2024-07-05 09:56:34
48
0

英特尔 至强 Max 系列处理器是唯一一款基于 x86 的高带宽内存 (HBM) 处理器,可最大程度提高带宽。英特尔 Max 系列 CPU 在架构设计上大幅增强采用 HBM 的英特尔 至强 平台的性能,相较于竞品,其针对实际工作负载的性能提升了 4.8 倍,比如建模、人工智能、深度学习、高性能计算 (HPC) 和数据分析。包括以下几个型号:

英特尔® 至强® CPU Max 9468 处理器(105 M 高速缓存,2.10 GHz,48核)

英特尔® 至强® CPU Max 9460 处理器(97.5 M 高速缓存,2.20 GHz,40核)

英特尔® 至强® CPU Max 9470 处理器(105 M 高速缓存,2.00 GHz,52核)

英特尔® 至强® CPU Max 9480 处理器(112.5 M 高速缓存,1.90 GHz,56核)

英特尔® 至强® CPU Max 9462 处理器(75 M 高速缓存,2.70 GHz,32核)

处理器框图如下图所示:

处理器示意图

图 1 处理器示意图

处理器包含 4 个 HBM2e 堆栈,每个处理器的高带宽内存 (HBM) 总容量超过 60GB,另外还有 8 通道 DDR 内存。双路系统中,两个处理器通过最多 4 个英特尔 超级通道互联(Intel Ultra Path Interconnect,英特尔 UPI)链路连接。双路系统的 HBM 总容量为 128 GB。

图 2  HBM 中的内存堆栈

HBM 内存由多个 DRAM 内存堆栈组成,通过宽总线连接。每个堆栈包含 8 个堆叠在底层逻辑芯片上的 DRAM。英特尔至强CPU Max 系列处理器配备 4 个堆栈,HBM 总容量超过 60GB。

CPU配置

英特尔至强CPU Max 系列(封装或插槽)处理器中的 HBM 和 DDR 内存可以采用三种内存模式和两种集群模式进行配置。

三种内存模式

图 3  HBM 内存模式

1 “仅 HBM”内存模式

若未安装 DDR,可选择“仅 HBM”内存模式。在此模式下,HBM 是操作系统和应用唯一可用的内存。所有已安装的 HBM 都对操作系统可见,而应用则会看到操作系统暴露的部分。因此,操作系统和应用均可随时使用 HBM。但操作系统、后台服务和应用必须共享可用的 HBM 容量(每处理器 超过60 GB,实际六十四GB)。

2  “Flat”模式或一级内存 (1LM) 模式

若已安装 DDR 内存,可在系统启动时于 BIOS 菜单中选择“Flat”(也称 1LM)模式,使 HBM 和 DDR 对软件可见。在此模式下,HBM 和 DDR 各自作为独立的地址空间对软件可见,即 DDR 作为一个独立的地址空间(NUMA 节点)为软件所见,而 HBM 作为另一个地址空间(NUMA 节点)为软件所见。如下文第 6.2 节所述,用户需要使用 NUMA 感知工具(例如 numactl)或库,才能在该模式下使用 HBM。其他操作系统配置需在 HBM 作为常规内存池一部分被访问前完成。

3  “缓存”模式或二级内存 (2LM) 模式

若已安装 DDR,可在系统启动时于 BIOS 菜单中选择“缓存”(也称 2LM)模式,使 HBM 作为 DDR 的内存侧缓存。在该模式下,仅 DDR 地址空间对软件可见,而 HBM 则作为 DDR 的透明内存侧缓存。因此,应用和命令行无需修改即可使用“缓存”模式。HBM 属于直接映射缓存,可能需要额外采取配置步骤才能尽量减少冲突未命中 (conflict miss) 这种情况。

文章来自个人专栏
服务器与边缘计算解决方案
6 文章 | 1 订阅
0条评论
0 / 1000
请输入你的评论
0
0