异构计算 GPU

GPUDirect P2P技术可以大大提升GPU服务器单机的GPU通信性能，但是受限于PCI Expresss总线协议以及拓扑结构的一些限制，无法做到更高的带宽，为了解决这个问题，NVIDIA提出了NVLink总线协议

GPU显存是显卡上的内存，用于存储图像、视频和其他图形数据。与CPU内存不同，GPU显存是专门为图形处理和计算任务设计的。GPU显存通常是GDDR（Graphics Double Data Rate）类型的内存，具有高带宽和低延迟的特点。

GTC22上老黄发布了全新的GPU H100。H100采用了Hopper架构，800亿晶体管，812mm的面积，台积电N4工艺，纸面性能差不都翻了三倍，功耗也从400W提升到了700W

NVIDIA安培架构下MIG技术分析