本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
Amazon ECS 设置
本主题介绍如何使用 Amazon 弹性容器服务设置AWS Deep Learning Containers。
先决条件
本安装指南假设您已完成以下先决条件:
-
安装和配置最新版本的AWS CLI。有关安装或升级 AWS CLI 的更多信息,请参阅安装 AWS Command Line Interface。
-
完成使用 Amazon ECS 进行设置中的步骤。
-
确认您拥有 Amazon ECS 容器实例角色。有关更多信息,请参阅 A mazon ECS 容器服务开发人员指南中的 Amazon ECS 容器实例 IAM 角色。
-
Amazon CloudWatch Logs IAM 策略已添加到亚马逊 ECS 容器实例角色中,该角色允许 Amazon ECS 向亚马逊发送日志 CloudWatch。有关更多信息,请参阅 A mazon Elastic Container Service 开发人员指南中的CloudWatch L ogs IAM
-
创建新的安全组或更新现有的安全组,以便为所需的推理服务器打开端口。
-
对于 MXNet 推断,端口 80 和 8081 向 TCP 流量开放。
-
为了进行 TensorFlow 推断,端口 8501 和 8500 向 TCP 流量开放。
有关更多信息,请参阅 Amazon EC2 安全组。
-
为Deep Learning Containers 设置 Amazon ECS
本部分介绍如何设置 Amazon ECS 以使用Deep Learning Containers。
重要
如果您的账户已创建 Amazon ECS 服务相关角色,则默认情况下会为您的服务使用该角色,除非您在此处指定一个角色。如果任务定义使用 awsvpc 网络模式,或者将服务配置为使用以下任一内容:服务发现、外部部署控制器、多个目标组或 Elastic Inference 加速器(Service 加速器),则需要使用服务相关角色。如果是这种情况,则不应在此处指定角色。有关更多信息,请参阅 Amazon ECS 开发人员指南中的 Amazon ECS 使用服务关联角色。
从您的主机运行以下操作。
-
在包含您之前创建的key pair 和安全组的区域中创建一个 Amazon ECS 集群。
aws ecs create-cluster --cluster-name
ecs-ec2-training-inference
--regionus-east-1
-
将一个或多个 Amazon EC2 实例启动到您的集群中。有关基于 GP U 的工作,请参阅《亚马逊 ECS 开发者指南》中的 “在 Amazon ECS 上使用 G PU”,以告知您的实例类型选择。如果选择 GPU 实例类型,请确保随后选择 Amazon ECS 经 GPU 优化的 AMI。对于基于 CPU 的工作,可以使用 Amazon Linux 或 Amazon Linux 2 ECS 优化的 AMI。有关兼容实例类型和 Amazon ECS ECS 优化的 AMI ID ID 的更多信息,请参阅经 Amazon ECS 优化的 AMI。在本示例中,您在 us-east-1 中使用基于 GPU 的 AMI 启动一个实例,磁盘大小为 100 GB。
-
使用以下内容创建名为
my_script.txt
的文件。引用您在上一步中创建的同一集群名称。#!/bin/bash echo ECS_CLUSTER=
ecs-ec2-training-inference
>> /etc/ecs/ecs.config -
(可选)使用以下内容创建名为
my_mapping.txt
的文件,这将在创建实例后更改根卷的大小。[ { "DeviceName": "/dev/xvda", "Ebs": { "VolumeSize": 100 } } ]
-
启动一个带有 Amazon ECS ECS 优化的 AMI 实例并将其连接到集群。使用您创建的安全组 ID 和key pair 名称,并在以下命令中替换它们。要获取最新的经 Amazon ECS 优化的 AMI ID ID,请参阅 Amazon Elastic ContainECS 开发人员指南中的 Amazon EC S 优化的 AMI ID ID。
aws ec2 run-instances --image-id
ami-0dfdeb4b6d47a87a2
\ --count1
\ --instance-typep2.8xlarge
\ --key-namekey-pair-1234
\ --security-group-idssg-abcd1234
\ --iam-instance-profile Name="ecsInstanceRole
" \ --user-datafile://my_script.txt
\ --block-device-mappingfile://my_mapping.txt
\ --regionus-east-1
在 Amazon EC2 控制台中,您可以通过响应
instance-id
中的,验证本步骤是否成功。
-
您现在有一个正在运行容器实例的 Amazon ECS 集群。通过以下步骤验证 Amazon EC2 实例是否已在集群中注册。
验证 Amazon EC2 实例已在集群中注册
-
选择包含您已注册 Amazon EC2 实例的集群。
-
在集群页面上,选择基础设施。
-
在容器实例下,验证是否显示
instance-id
了在上一步中创建的。另外,请注意可用 CPU 和可用内存的值,因为这些值在以下教程中可能很有用。上述值可能需要几分钟才能显示在控制台中。
后续步骤
要了解有关在 Amazon ECS 上使用Deep Learning Containers 进行训练和推理的信息,请参阅Amazon ECS 教。