云容器引擎 CCE-节点规格:GPU加速型

时间:2024-05-17 11:30:04

GPU加速型

GPU加速型云服务器(GPU Accelerated Cloud Server,GA CS )能够提供强大的浮点计算能力,从容应对高实时、高并发的海量计算场景。

GPU加速型云服务器包括G系列和P系列两类。其中:

  • G系列:图形加速型弹性云服务器,适合于3D动画渲染、CAD等。
  • P系列:计算加速型或推理加速型弹性云服务器,适合于深度学习、科学计算、CAE等。
表21 GPU加速实例总览

类别

实例

GPU显卡

单卡Cuda Core数量

单卡GPU性能

使用场景

支持集群类型

图形加速型

G6

NVIDIA T4(GPU直通)

2560

  • 8.1TFLOPS 单精度浮点计算
  • 130INT8 TOPS
  • 260INT4 TOPS

云桌面 、图像渲染、3D可视化、重载图形设计。

CCE Standard集群

图形加速型

G5

NVIDIA V100(GPU直通)

5120

  • 14TFLOPS 单精度浮点计算
  • 7TFLOPS 双精度浮点计算
  • 112TFLOPS Tensor Core 深度学习加速

云桌面、图像渲染、3D可视化、重载图形设计。

CCE Standard集群

计算加速型

P2s

NVIDIA V100

5120

  • 14TFLOPS 单精度浮点计算
  • 7TFLOPS 双精度浮点计算
  • 112TFLOPS Tensor Core 深度学习加速

AI深度学习训练、科学计算、计算流体动力学、计算金融、地震分析、分子建模、基因组学。

CCE Standard集群

计算加速型

P2v

NVIDIA V100 NVLink(GPU直通)

5120

  • 15.7TFLOPS 单精度浮点计算
  • 7.8TFLOPS 双精度浮点计算
  • 125TFLOPS Tensor Core 深度学习加速
  • 300GiB/s NVLINK

机器学习、深度学习、训练推理、科学计算、地震分析、计算金融学、渲染、多媒体编解码。

CCE Standard集群

推理加速型

Pi2

NVIDIA T4(GPU直通)

2560

  • 8.1TFLOPS 单精度浮点计算
  • 130INT8 TOPS
  • 260INT4 TOPS

机器学习、深度学习、训练推理、科学计算、地震分析、计算金融学、渲染、多媒体编解码。

CCE Standard集群

推理加速型

Pi1

NVIDIA P4(GPU直通)

2560

5.5TFLOPS 单精度浮点计算

机器学习、深度学习、训练推理、科学计算、地震分析、计算金融学、渲染、多媒体编解码。

CCE Standard集群

表22 G6型弹性云服务器的规格

规格名称

vCPU

内存

(GiB)

最大带宽/基准带宽(Gbps)

最大收发包能力

(万PPS)

网卡多队列数

网卡个数上限

GPU

显存

(GiB)

虚拟化类型

g6.xlarge.4

4

16

6/2

200

8

8

1 × T4

16

KVM

g6.4xlarge.4

16

64

15/8

200

8

8

1 × T4

16

KVM

g6.6xlarge.4

24

96

25/15

200

8

8

1 × T4

16

KVM

g6.9xlarge.7

36

252

25/15

200

16

8

1 × T4

16

KVM

g6.18xlarge.7

72

504

30/30

400

32

16

2 × T4

32

KVM

表23 G5型弹性云服务器的规格

规格名称

vCPU

内存

(GiB)

最大带宽/基准带宽

(Gbps)

最大收发包能力

(万PPS)

网卡多队列数

GPU

显存

(GiB)

虚拟化类型

g5.8xlarge.4

32

128

25/15

200

16

1 × V100

16

KVM

表24 P2s型弹性云服务器的规格

规格名称

vCPU

内存

(GiB)

最大带宽/基准带宽(Gbps)

最大收发包能力(万PPS)

网卡多队列数

网卡个数上限

GPU

GPU连接技术

显存(GiB)

虚拟化类型

p2s.2xlarge.8

8

64

10/4

50

4

4

1 × V100

PCIe Gen3

1 × 32GiB

KVM

p2s.4xlarge.8

16

128

15/8

100

8

8

2 × V100

PCIe Gen3

2 × 32GiB

KVM

p2s.8xlarge.8

32

256

25/15

200

16

8

4 × V100

PCIe Gen3

4 × 32GiB

KVM

p2s.16xlarge.8

64

512

30/30

400

32

8

8 × V100

PCIe Gen3

8 × 32GiB

KVM

表25 P2v型弹性云服务器的规格

规格名称

vCPU

内存

(GiB)

最大带宽/基准带宽(Gbps)

最大收发包能力(万PPS)

网卡多队列数

网卡个数上限

GPU

GPU连接技术

显存

(GiB)

虚拟化类型

p2v.2xlarge.8

8

64

10/4

50

4

4

1 × V100

-

1 × 16GiB

KVM

p2v.4xlarge.8

16

128

15/8

100

8

8

2 × V100

NVLink

2 × 16GiB

KVM

p2v.8xlarge.8

32

256

25/15

200

16

8

4 × V100

NVLink

4 × 16GiB

KVM

p2v.16xlarge.8

64

512

30/30

400

32

8

8 × V100

NVLink

8 × 16GiB

KVM

表26 Pi2型弹性云服务器的规格

规格名称

vCPU

内存

(GiB)

最大带宽/基准带宽(Gbps)

最大收发包能力

(万PPS)

网卡多队列数

网卡个数上限

GPU

显存

(GiB)

本地盘

虚拟化类型

pi2.2xlarge.4

8

32

10/4

50

4

4

1 × T4

1 × 16

-

KVM

pi2.4xlarge.4

16

64

15/8

100

8

8

2 × T4

2 × 16

-

KVM

pi2.8xlarge.4

32

128

25/15

200

16

8

4 × T4

4 × 16

-

KVM

表27 Pi1型弹性云服务器的规格

规格名称

vCPU

内存

(GiB)

最大带宽/基准带宽

(Gbps)

最大收发包能力

(万PPS)

网卡多队列数

GPU

显存

(GiB)

本地盘

虚拟化类型

pi1.2xlarge.4

8

32

5/1.6

40

2

1 × P4

1 × 8GiB

-

KVM

pi1.4xlarge.4

16

64

8/3.2

70

4

2 × P4

2 × 8GiB

-

KVM

pi1.8xlarge.4

32

128

10/6.5

140

8

4 × P4

4 × 8GiB

-

KVM

support.huaweicloud.com/usermanual-cce/cce_10_0719.html