使用 Amazon ECS 上的 AWS Deep Learning Containers

AWS Deep Learning Containers 提供了一组 Docker 映像，用于在 Amazon ECS 上培训和服务 TensorFlow 和 Apache MXNet (Incubating) 中的模型。Deep Learning Containers 支持使用 TensorFlow、NVIDIA CUDA（用于 GPU 实例）和 Intel MKL（用于 CPU 实例）库优化环境。Amazon ECR 中提供了 Deep Learning Containers 的容器镜像，在 Amazon ECS 任务定义中参考。您可以将 Deep Learning Containers 与 Amazon Elastic Inference 结合使用，以降低推理成本。

要开始在 Amazon ECS上使用无 Elastic Inference 的 Deep Learning Containers，请参阅 AWS Deep Learning AMI 开发人员指南中的 Amazon ECS 上的 Deep Learning Containers。

Amazon ECS 上的 Elastic Inference Deep Learning Containers

注意

自 2023 年 4 月 15 日起，AWS 不再允许新客户加入 Amazon Elastic Inference（EI），并将帮助现有客户将其工作负载迁移到价格更低廉且性能更出色的选项。2023 年 4 月 15 日之后，新客户将无法在 Amazon SageMaker、Amazon ECS 或 Amazon EC2 中使用 Amazon EI 加速器启动实例。但是，在过去 30 天内至少使用过一次 Amazon EI 的客户将视为当前客户，可继续使用该服务。

AWS Deep Learning Containers 为 TensorFlow 和 Apache MXNet (Incubating) 中的模型提供了一组 Docker 镜像，这些模型利用了 Amazon Elastic Inference 加速器。Amazon ECS 提供任务定义参数，用于将 Elastic Inference 加速器附加到您的容器。当您在任务定义中指定 Elastic Inference 加速器类型时， Amazon ECS将托管加速器的生命周期和配置。使用此功能时需要 Amazon ECS 服务相关角色。有关 Elastic Inference 加速器的更多信息，请参阅 Amazon Elastic Inference 基础。

重要

您的 Amazon ECS 容器实例需要不低于版本 1.30.0 Amazon ECS 的容器代理。有关检查您的代理版本并更新到最新版本的信息，请参阅更新 Amazon ECS 容器代理。

要开始在 Amazon ECS 上使用具有 Elastic Inference 的 Deep Learning Containers，请参阅 Amazon Elastic Inference 开发人员指南中的 Amazon ECS 上具有 Elastic Inference 的 Deep Learning Containers