S3KeyExists - AWS Data Pipeline

S3KeyExists

检查 Amazon S3 数据节点中是否存在键。

示例

以下是该对象类型的示例。如果 s3Key 参数引用的密钥 s3://mybucket/mykey 已存在,则触发先决条件。

{ "id" : "InputReady", "type" : "S3KeyExists", "role" : "test-role", "s3Key" : "s3://mybucket/mykey" }

您还可以使用 S3KeyExists 作为第二个管道的先决条件,该先决条件等待第一个管道完成。为此,请执行以下操作:

  1. 当第一个管道完成后,将一个文件写入到 Amazon S3。

  2. 在第二个管道上创建 S3KeyExists 先决条件。

语法

必填字段 描述 槽类型
role 指定用于执行先决条件的角色。 String
s3Key Amazon S3 密钥。 String

可选字段 描述 槽类型
attemptStatus 来自远程活动的最近报告的状态。 String
attemptTimeout 再次尝试完成远程工作之前的超时时间。如果设置此字段,则可能会再次尝试未在启动后的设定时间内完成的远程活动。 周期
failureAndRerunMode 描述依赖项失败或重新运行时的使用者节点行为。 枚举
lateAfterTimeout 管道启动后经过的时间,在此时间内,对象必须完成。仅当计划类型未设置为 ondemand 时才会触发。 周期
maximumRetries 失败时启动尝试的最大次数。 整数
onFail 当前对象失败时要运行的操作。 引用对象,例如,"onFail":{"ref":"myActionId"}
onLateAction 在尚未计划对象或对象仍未完成的情况下将触发的操作。 引用对象,例如,"onLateAction":{"ref":"myActionId"}
onSuccess 当前对象成功时要运行的操作。 引用对象,例如,"onSuccess":{"ref":"myActionId"}
parent 槽将继承自的当前对象的父级。 引用对象,例如,"parent":{"ref":"myBaseObjectId"}
preconditionTimeout 从开始算起的时段,在该时段后,如果仍未满足先决条件,则会将先决条件标记为失败。 周期
reportProgressTimeout 远程工作对 reportProgress 的连续调用的超时时间。如果设置此字段,则未报告指定时段的进度的远程活动可能会被视为停滞且已重试。 周期
retryDelay 两次连续尝试之间的超时时间。 周期

运行时字段 描述 槽类型
@activeInstances 当前计划的有效实例对象的列表。 引用对象,例如,"activeInstances":{"ref":"myRunnableObjectId"}
@actualEndTime 该对象的执行完成时间。 DateTime
@actualStartTime 该对象的执行开始时间。 DateTime
cancellationReason 该对象被取消时显示的 cancellationReason。 String
@cascadeFailedOn 对象在其上失败的依赖项链的描述。 引用对象,例如,"cascadeFailedOn":{"ref":"myRunnableObjectId"}
currentRetryCount 在此尝试中已经重试先决条件的次数。 String
emrStepLog 仅在尝试 EMR 活动时可用的 EMR 步骤日志 String
errorId 该对象失败时显示的 errorId。 String
errorMessage 该对象失败时显示的 errorMessage。 String
errorStackTrace 该对象失败时显示的错误堆栈跟踪。 String
hadoopJobLog 在尝试基于 EMR 的活动时可用的 Hadoop 任务日志。 String
hostname 已执行任务尝试的客户端的主机名。 String
lastRetryTime 在此尝试中上次重试先决条件的时间。 String
node 将为其执行此先决条件的节点。 引用对象,例如,"node":{"ref":"myRunnableObjectId"}
reportProgressTime 远程活动报告进度的最近时间。 DateTime
@scheduledEndTime 对象的计划结束时间。 DateTime
@scheduledStartTime 对象的计划开始时间。 DateTime
@status 该对象的状态。 String
@version 用来创建对象的管道版本。 String
@waitingOn 该对象在其上处于等待状态的依赖项列表的描述。 引用对象,例如,"waitingOn":{"ref":"myRunnableObjectId"}

系统字段 描述 槽类型
@error 用于描述格式不正确的对象的错误消息 String
@pipelineId 该对象所属的管道的 ID String
@sphere 对象的范围指明对象在生命周期中的位置:组件对象产生实例对象,后者执行尝试对象 String

另请参阅