TensorFlow - Amazon EMR

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

TensorFlow

TensorFlow 是一个用于机器智能和深度学习应用程序的开源符号数学库。欲了解更多信息,请TensorFlow 访问网站。 TensorFlow 在 Amazon EMR 发行版 5.17.0 及更高版本中可用。

下表列出了最新版本的 Amazon EMR 7.x 系列中 TensorFlow 包含的版本以及亚马逊随之EMR安装的组件。 TensorFlow

有关此版本 TensorFlow 中安装的组件的版本,请参阅 7.2.0 版组件版本

TensorFlow emr-7.2.0 的版本信息
Amazon EMR 发布标签 TensorFlow 版本 安装在一起的组件 TensorFlow

emr-7.2.0

TensorFlow 2.11.0

emrfs, emr-goodies, hadoop-client, hadoop-hdfs-datanode, hadoop-hdfs-library, hadoop-hdfs-namenode, hadoop-httpfs-server, hadoop-kms-server, hadoop-yarn-nodemanager, hadoop-yarn-resourcemanager, hadoop-yarn-timeline-server, tensorflow

下表列出了最新版本的 Amazon EMR 6.x 系列中 TensorFlow 包含的版本以及亚马逊随之EMR安装的组件。 TensorFlow

有关此版本 TensorFlow 中安装的组件的版本,请参阅 6.15.0 版组件版本

TensorFlow emr-6.15.0 的版本信息
Amazon EMR 发布标签 TensorFlow 版本 安装在一起的组件 TensorFlow

emr-6.15.0

TensorFlow 2.11.0

emrfs, emr-goodies, hadoop-client, hadoop-hdfs-datanode, hadoop-hdfs-library, hadoop-hdfs-namenode, hadoop-httpfs-server, hadoop-kms-server, hadoop-yarn-nodemanager, hadoop-yarn-resourcemanager, hadoop-yarn-timeline-server, tensorflow

下表列出了最新版本的 Amazon EMR 5.x 系列中 TensorFlow 包含的版本以及亚马逊随之EMR安装的组件。 TensorFlow

有关此版本 TensorFlow 中安装的组件的版本,请参阅 5.36.2 版组件版本

TensorFlow emr-5.36.2 的版本信息
Amazon EMR 发布标签 TensorFlow 版本 安装在一起的组件 TensorFlow

emr-5.36.2

TensorFlow 2.4.1

emrfs, emr-goodies, hadoop-client, hadoop-hdfs-datanode, hadoop-hdfs-library, hadoop-hdfs-namenode, hadoop-httpfs-server, hadoop-kms-server, hadoop-yarn-nodemanager, hadoop-yarn-resourcemanager, hadoop-yarn-timeline-server, tensorflow

TensorFlow 按 Amazon EC2 实例类型构建

根据您为集群选择的实例类型,Amazon EMR 使用不同的 TensorFlow 库版本。下表按实例类型列出版本。

EC2 实例类型 TensorFlow 建造

M5 和 C5

经过英特尔优化的 Tensorflow 1.9.0 MKL

P2

Tensorflow 1.9.0 带有 CUDA 9.2,cu 7.1 DNN

P3

Tensorflow 1.9.0 带有 CUDA 9.2、cu 7.1、2.2.13 DNN NCCL

Nvid NCCL ia 仅在 P3 实例上可用。最终用户许可协议 (EULA):在亚马逊上使用 Nvidia 组件EMR,即表示您同意产品中概述的条款和条件EULA。

所有其他地址

Tensorflow 1.9.0

安全性

除了遵循 TensorFlow 安全使用中的指导外,我们还建议您在私有子网中启动集群,以帮助限制对可信来源的访问。有关更多信息,请参阅《亚马逊EMR管理指南》中的亚马逊VPC选项

使用 TensorBoard

TensorBoard 是一套用于 TensorFlow 程序的可视化工具。有关更多信息,请参阅 TensorBoard:Tensorflow 网站上的可视化学习

要在 TensorBoard Amazon 上使用EMR,您必须从集群主节点 TensorBoard 上启动。

在亚马逊上将 tensorboard 与 Tensorflow 配合使用 EMR
  1. 使用连接到集群的主节点SSH。有关更多信息,请参阅Amazon EMR 管理指南》SSH中的 “使用连接到主节点”。

  2. 键入以下命令,在主节点上启动 TensorFboard。将 /my/log/directory 替换为您使用摘要写入器生成和存储摘要数据的主节点上的目录。

    Amazon EMR 5.19.0 and later
    python3 -m tensorboard.main --logdir=/home/hadoop/tensor --bind_all
    Amazon EMR 5.18.1 and earlier
    python3 -m tensorboard.main --logdir=/my/log/dir

    默认情况下,主节点 TensorBoard 使用端口 6006 和主节点公共DNS名称进行主机。启动后 TensorBoard,命令行输出URL将显示可用于连接的 TensorBoard,如以下示例所示:

    TensorBoard 1.9.0 at http://master-public-dns-name:6006 (Press CTRL+C to quit)
  3. 设置来自受信任客户端对主节点上 Web 界面的访问权限。有关更多信息,请参阅《亚马逊EMR管理指南》中的查看亚马逊EMR集群上托管的 Web 界面

  4. 开 TensorBoard 业于http://master-public-dns-name:6006