DynamoDB DataNode - AWS Data Pipeline

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

DynamoDB DataNode

使用 DynamoDB 定义一个数据节点,该节点指定为 HiveActivityEMRActivity 对象的输入。

注意

DynamoDBDataNode 对象不支持 Exists 先决条件。

示例

以下是该对象类型的示例。该对象引用您在同一管道定义文件中定义的其他两个对象。CopyPeriodSchedule 对象,Ready 为先决条件对象。

{ "id" : "MyDynamoDBTable", "type" : "DynamoDBDataNode", "schedule" : { "ref" : "CopyPeriod" }, "tableName" : "adEvents", "precondition" : { "ref" : "Ready" } }

语法

必填字段 描述 槽类型
tableName DynamoDB 表。 String

对象调用字段 描述 槽类型
schedule 该对象在计划间隔的执行中调用。用户必须指定对另一个对象的计划引用,以便设置该对象的依赖项执行顺序。用户可以通过在对象上显式设置时间表来满足此要求,例如,指定 “schedule”: {"ref”: "DefaultSchedule“}。在大多数情况下,最好将计划引用放在默认管道对象上,以便所有对象继承该计划。或者,如果管道有一个计划树 (计划位于主计划中),用户可以创建具有计划引用的父对象。有关示例可选计划配置的更多信息,请参阅计划 参考对象,例如 “日程安排”:{“ref”:” myScheduleId “}

可选字段 描述 槽类型
attemptStatus 来自远程活动的最近报告的状态。 String
attemptTimeout 远程工作完成的超时时间。如果设置该字段,则可能会重试未在设置的开始时间内完成的远程活动。 周期
dataFormat DataFormat 用于此数据节点描述的数据。目前支持 HiveActivity 和 HiveCopyActivity。 参考对象,“dataFormat”:{“ref”: “myDynamoDB”DataFormatId}
dependsOn 指定与另一个可运行对象的依赖关系 参考对象,例如 “dependSon”:{“ref”:” myActivityId “}
failureAndRerun模式 描述依赖项失败或重新运行时的使用者节点行为。 枚举
lateAfterTimeout 管道启动后经过的时间,在此时间内,对象必须完成。仅当计划类型未设置为 ondemand 时才会触发。 周期
maxActiveInstances 组件的并发活动实例的最大数量。重新运行不计入活动实例数中。 整数
maximumRetries 失败后的最大重试次数 整数
onFail 当前对象失败时要运行的操作。 参考对象,例如 “onFail”:{“ref”:” myActionId “}
onLateAction 在尚未计划对象或对象仍未完成的情况下将触发的操作。 引用对象,例如 onLateAction ““: {" ref”:” myActionId “}
onSuccess 当前对象成功时要运行的操作。 参考对象,例如 “onSuccess”:{“ref”:” myActionId “}
parent 槽将继承自的当前对象的父级。 参考对象,例如 “父对象”:{"ref”:” myBaseObject Id "}
pipelineLogUri 用于上传管道日志的 S3 URI(例如 's3: BucketName ///Key/ ')。 String
precondition (可选) 定义先决条件。在满足所有先决条件之前,数据节点不会标记为“READY”。 参考对象,例如 “前提条件”:{“ref”:” myPreconditionId “}
readThroughputPercent 设置读取操作的速率,将 DynamoDB 预配的吞吐速率保持在为您的表分配的范围内。该值为介于 0.1 到 1.0 之间的双精度值 (包含端点)。 Double
region DynamoDB 表所在区域的代码。例如,us-east-1。 HiveActivity 当它在 Hive 中为 DynamoDB 表执行暂存操作时会使用它。 枚举
reportProgressTimeout 远程工作对 reportProgress 的连续调用的超时时间。如果设置此字段,则未报告指定时段的进度的远程活动可能会被视为停滞且已重试。 周期
retryDelay 两次重试之间的超时时间。 周期
runsOn 运行活动或命令的计算资源。例如,Amazon EC2 实例或 Amazon EMR 集群。 参考对象,例如 “runson”:{“ref”:” myResourceId “}
scheduleType 计划类型允许您指定应在间隔的结尾还是开头计划您管道定义中的对象。时间序列风格计划表示在每次间隔的结尾计划实例,而 Cron 风格计划表示应在每次间隔的开头计划实例。按需计划让您可以在每次激活时运行一次管道。这意味着,您不需要克隆或重新创建管道以再次运行它。如果您使用按需计划,则必须在默认对象中指定它,并且必须是在管道中为对象指定的唯一 scheduleType。要使用按需管道,您只需为后续的每次运行调用该 ActivatePipeline 操作即可。值包括:cron、ondemand 和 timeseries。 枚举
workerGroup 工作线程组。这可用于路由任务。如果您提供 runsOn 值并且存在 workerGroup,则将忽略 workerGroup。 String
writeThroughputPercent 设置写入操作的速率,将 DynamoDB 预配的吞吐速率保持在为您的表分配的范围内。该值为介于 0.1 到 1.0 之间的双精度值 (包含端点)。 Double

运行时字段 描述 槽类型
@activeInstances 当前计划的有效实例对象的列表。 参考对象,例如 “ActiveInstances”:{"ref”:” myRunnableObject Id "}
@actualEndTime 该对象的执行完成时间。 DateTime
@actualStartTime 该对象的执行开始时间。 DateTime
cancellationReason 该对象被取消时显示的 cancellationReason。 String
@cascadeFailedOn 对象在其上失败的依赖项链的描述。 引用对象,例如 cascadeFailedOn ““: {" ref”:” myRunnableObject Id "}
emrStepLog 仅在尝试 EMR 活动时可用的 EMR 步骤日志 String
errorId 该对象失败时显示的 errorId。 String
errorMessage 该对象失败时显示的 errorMessage。 String
errorStackTrace 该对象失败时显示的错误堆栈跟踪。 String
@finishedTime 该对象完成其执行的时间。 DateTime
hadoopJobLog 在尝试基于 EMR 的活动时可用的 Hadoop 任务日志。 String
@healthStatus 对象的运行状况,反映进入终止状态的上个对象实例成功还是失败。 String
@healthStatusFromInstanceId 进入终止状态的上个实例对象的 ID。 String
@ T healthStatusUpdated ime 上次更新运行状况的时间。 DateTime
hostname 已执行任务尝试的客户端的主机名。 String
@lastDeactivatedTime 上次停用该对象的时间。 DateTime
@ T latestCompletedRun ime 已完成执行的最新运行的时间。 DateTime
@latestRunTime 已计划执行的最新运行的时间。 DateTime
@nextRunTime 计划下次运行的时间。 DateTime
reportProgressTime 远程活动报告进度的最近时间。 DateTime
@scheduledEndTime 对象的计划结束时间。 DateTime
@scheduledStartTime 对象的计划开始时间。 DateTime
@status 该对象的状态。 String
@version 用来创建对象的管道版本。 String
@waitingOn 该对象在其上处于等待状态的依赖项列表的描述。 参考对象,例如 “waitingOn”:{"ref”:” myRunnableObject Id "}

系统字段 描述 槽类型
@error 用于描述格式不正确的对象的错误消息 String
@pipelineId 该对象所属的管道的 ID String
@sphere 对象的范围指明对象在生命周期中的位置:组件对象产生实例对象,后者执行尝试对象 String