推荐的 GPU 实例

我们推荐的 GPU 实例适用于大多数深度学习目的。在 GPU 实例上训练新模型比在 CPU 实例上更快。您可以在有多个 GPU 实例的情况下以线性方式进行缩放，也可以在具有 GPU 的多个实例上使用分布式训练。

以下实例类型支持 DLAMI。有关 GPU 实例类型选项及其用途的信息，请参阅 EC2 实例类型并选择加速计算。

注意

应将模型大小作为选择实例的一个考虑因素。如果模型超出了实例的可用 RAM，请为应用程序选择其他具有足够内存的实例类型。

• Amazon EC2 P3 实例最多有 8 个 NVIDIA Tesla V100 GPU。

• Amazon EC2 P4 实例最多有 8 个 NVIDIA Tesla A100 GPU。

• 亚马逊 EC2 P5 实例最多有 8 个 NVIDIA Tesla H100 GPU。

• Amazon EC2 G3 实例最多有 4 个 NVIDIA Tesla M60 GPU。

• Amazon EC2 G4 实例最多有 4 个 NVIDIA T4 GPU。

• Amazon EC2 G5 实例最多有 8 个 NVIDIA A10G GPU。

• 亚马逊 EC2 G6 实例最多有 8 个 NVIDIA L4 GPU。

• 亚马逊 EC2 g5g 实例具有基于 ARM64 的 G ravit AWS on2 处理器。

DLAMI 实例提供了用于监控和优化 GPU 进程的工具。有关监控 GPU 进程的更多信息，请参阅 GPU 监控和优化。

有关使用 G5g 实例的特定教程，请参阅 ARM64 DLAMI。

后续步骤

推荐的 CPU 实例