概述
Pi3型弹性云主机采用专为AI推理打造的NVIDIA A30 GPU,能够提供超强的实时推理能力。单卡24GB显存,933GB/s带宽使得Pi3也同时可以支持一定的训练场景。其理论AI训练吞吐量三倍于NVIDA V100显卡,六倍于前代Pi2型服务器的T4显卡。Pi3型弹性云主机借助NVIDIA A30的运算器,能够提供最大330TOPS的INT8算力(开启稀疏性)。理论峰值单精度浮点性能:TF32:10.3TFLOPS,Tensor核心性能:TF32: 82TFLOPS | 165TFLOPS(开启稀疏性)。
类型 | CPU 基频/ 睿频 | CPU型号 |
---|---|---|
Pi3 | 2.6GHz/3.5GHz | 6348 |
规格
表 Pi3弹性云主机的规格
规格名称 | vCPU | 内存 (GiB) | 最大带宽/基准带宽(Gbps) | 最大收发包能力 (万PPS) | 网卡多队列数 | 网卡个数上限 | GPU | 显存 (GiB) | 本地盘 | 虚拟化类型 |
---|---|---|---|---|---|---|---|---|---|---|
pi3.6xlarge.4 | 24 | 96 | 25/9 | 400 | 8 | 8 | 1 * NVIDIA A30 | 24 | - | KVM |
pi3.12xlarge.4 | 48 | 192 | 35/18 | 750 | 8 | 8 | 2 * NVIDIA A30 | 48 | - | KVM |
pi3-48u1g.12xlarge.4 | 48 | 192 | 35/18 | 750 | 16 | 8 | 1 * NVIDIA A30 | 24 | - | KVM |
pi3-48u1g.24xlarge.4 | 96 | 384 | 40/36 | 850 | 32 | 8 | 2 * NVIDIA A30 | 48 | - | KVM |
Pi3型弹性云主机功能如下:
- 处理器:第三代英特尔® 至强® 可扩展处理器 6348,主频2.6GHz,睿频3.5GHz。
- 支持NVIDIA A30 GPU卡NVLINK互联技术,单实例最大支持2张A30 GPU卡。
- 提供GPU硬件直通能力。
- 单GPU单精度计算能力最高10.3 TFLOPS。
- 单GPU INT8计算能力最高330 TOPS。
- 单GPU提供24GiB GDDR6显存,带宽933GiB/s。
- 内置1个OFA和1个NVJPEG和4个NVDEC。
常规支持软件列表
Pi3实例主要用于GPU推理计算场景,例如图片识别、语音识别、自然语言处理等场景。也可以支持一定的训练场景。
常用的软件支持列表如下:
- Tensorflow、Caffe、PyTorch、MXNet、Spark等深度学习框架。
- AMBER、NAMD、OPENFOAM等2000+支持GPU加速的软件应用。
使用须知:
- Pi3型云主机,关机后基础资源(包括vCPU、内存、镜像)不计费,但系统盘仍会收取容量对应的费用。如有其他绑定的产品,如云硬盘、弹性IP、带宽等,按各自产品的计费方法进行收费。
说明Pi3型云主机,关机后资源会被释放,下次开机时如果后台资源不足,可能会导致云主机开机失败。如果您需要长期使用该云主机,建议保持开机状态。
-
Pi3型弹性云主机当前支持如下版本的操作系统:
- Ubuntu 20.04 server 64bit
- Ubuntu 18.04 server 64bit
- CentOS 8.2 64bit
- CentOS 8.1 64bit
- CentOS 8.0 64bit
- CentOS 7.9 64bit
- CentOS 7.8 64bit
- CentOS 7.7 64bit
- CentOS 7.6 64bit
-
Pi3型云主机,所在物理机发生故障时,云主机支持自动恢复。
-
创建Pi3型云主机时,请确认在制作私有镜像时已安装Tesla驱动。如果未安装,请在云主机创建完成后安装驱动,以实现计算加速功能。详细操作请参考GPU加速型实例安装Tesla驱动及CUDA工具包。