AWS 亚马逊 ECS 上的深度学习容器 - Amazon Elastic Container Service

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

AWS 亚马逊 ECS 上的深度学习容器

AWS Deep Learning Containers 提供了一组 Docker 镜像,用于在亚马逊 ECS 上训练 TensorFlow和提供模型,以及 Apache MXNet(孵化)。Deep Learning Containers TensorFlow 通过 NVIDIA CUDA(用于 GPU 实例)和英特尔 MKL(用于 CPU 实例)库支持优化的环境。Amazon ECR 中提供了 Deep Learning Containers 的容器镜像,在 Amazon ECS 任务定义中参考。您可以将 Deep Learning Containers 与 Amazon Elastic Inference 结合使用,以降低推理成本。

要开始在 Amazon ECS上使用无 Elastic Inference 的 Deep Learning Containers,请参阅 AWS Deep Learning AMI 开发人员指南中的 Amazon ECS 上的 Deep Learning Containers

Amazon ECS 上的 Elastic Inference Deep Learning Containers

注意

从 2023 年 4 月 15 日起, AWS 将不会让新客户加入 Amazon Elastic Inference (EI),并将帮助现有客户将其工作负载迁移到价格和性能更高的选项。2023 年 4 月 15 日之后,新客户将无法在亚马逊、亚马逊 ECS 或亚马逊 EC2 中使用亚马逊 SageMaker EI 加速器启动实例。但是,在过去 30 天内至少使用过一次 Amazon EI 的客户将视为当前客户,可继续使用该服务。

AWS Deep Learning Containers 提供了一组 Docker 镜像,用于在 TensorFlow 利用亚马逊 Elastic Inference 加速器的 Apache MXNet(孵化)中提供模型。Amazon ECS 提供任务定义参数,用于将 Elastic Inference 加速器附加到您的容器。当您在任务定义中指定 Elastic Inference 加速器类型时, Amazon ECS将托管加速器的生命周期和配置。使用此功能时需要 Amazon ECS 服务相关角色。有关 Elastic Inference 加速器的更多信息,请参阅 Amazon Elastic Inference 基础

重要

您的 Amazon ECS 容器实例需要不低于版本 1.30.0 Amazon ECS 的容器代理。有关检查您的代理版本并更新到最新版本的信息,请参阅更新 Amazon ECS 容器代理

要开始在 Amazon ECS 上使用具有 Elastic Inference 的 Deep Learning Containers,请参阅 Amazon Elastic Inference 开发人员指南中的 Amazon ECS 上具有 Elastic Inference 的 Deep Learning Containers