AWS Data Pipeline 不再向新客户提供。的现有客户 AWS Data Pipeline 可以继续照常使用该服务。了解更多
本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
S3 KeyExists
检查 Amazon S3 数据节点中是否存在键。
示例
以下是该对象类型的示例。如果 s3Key
参数引用的密钥 s3://mybucket/mykey
已存在,则触发先决条件。
{ "id" : "InputReady", "type" : "S3KeyExists", "role" : "test-role", "s3Key" : "s3://mybucket/mykey" }
您还可以使用 S3KeyExists
作为第二个管道的先决条件,该先决条件等待第一个管道完成。为此,请执行以下操作:
-
当第一个管道完成后,将一个文件写入到 Amazon S3。
-
在第二个管道上创建
S3KeyExists
先决条件。
语法
必填字段 | 描述 | 槽类型 |
---|---|---|
role | 指定用于执行先决条件的角色。 | String |
s3Key | Amazon S3 密钥。 | String |
可选字段 | 描述 | 槽类型 |
---|---|---|
attemptStatus | 来自远程活动的最近报告的状态。 | String |
attemptTimeout | 再次尝试完成远程工作之前的超时时间。如果设置此字段,则可能会再次尝试未在启动后的设定时间内完成的远程活动。 | 周期 |
failureAndRerun模式 | 描述依赖项失败或重新运行时的使用者节点行为。 | 枚举 |
lateAfterTimeout | 管道启动后经过的时间,在此时间内,对象必须完成。仅当计划类型未设置为 ondemand 时才会触发。 |
周期 |
maximumRetries | 失败时启动尝试的最大次数。 | 整数 |
onFail | 当前对象失败时要运行的操作。 | 引用对象,例如 onFail ““: {" ref”:” myActionId “} |
onLateAction | 在尚未计划对象或对象仍未完成的情况下将触发的操作。 | 引用对象,例如 onLateAction ““: {" ref”:” myActionId “} |
onSuccess | 当前对象成功时要运行的操作。 | 引用对象,例如 onSuccess ““: {" ref”:” myActionId “} |
parent | 槽将继承自的当前对象的父级。 | 引用对象,例如 “父对象”:{"ref”:” myBaseObject Id "} |
preconditionTimeout | 从开始算起的时段,在该时段后,如果仍未满足先决条件,则会将先决条件标记为失败。 | 周期 |
reportProgressTimeout | 远程工作对 reportProgress 的连续调用的超时时间。如果设置此字段,则未报告指定时段的进度的远程活动可能会被视为停滞且已重试。 |
周期 |
retryDelay | 两次连续尝试之间的超时时间。 | 周期 |
运行时字段 | 描述 | 槽类型 |
---|---|---|
@activeInstances | 当前计划的有效实例对象的列表。 | 引用对象,例如 activeInstances ““: {" ref”:” myRunnableObject Id "} |
@actualEndTime | 该对象的执行完成时间。 | DateTime |
@actualStartTime | 该对象的执行开始时间。 | DateTime |
cancellationReason | cancellationReason 如果此对象已取消,则为。 | String |
@cascadeFailedOn | 对象在其上失败的依赖项链的描述。 | 引用对象,例如 cascadeFailedOn ““: {" ref”:” myRunnableObject Id "} |
currentRetryCount | 在此尝试中已经重试先决条件的次数。 | String |
emrStepLog | EMR步骤日志仅在尝试EMR活动时可用 | String |
errorId | errorId 如果此对象失败,则为。 | String |
errorMessage | errorMessage 如果此对象失败,则为。 | String |
errorStackTrace | 该对象失败时显示的错误堆栈跟踪。 | String |
hadoopJobLog | Hadoop 作业日志可用于尝试进行EMR基于活动的情况。 | String |
hostname | 已执行任务尝试的客户端的主机名。 | String |
lastRetryTime | 在此尝试中上次重试先决条件的时间。 | String |
node | 将为其执行此先决条件的节点。 | 引用对象,例如 “节点”:{"ref”:” myRunnableObject Id "} |
reportProgressTime | 远程活动报告进度的最近时间。 | DateTime |
@scheduledEndTime | 对象的计划结束时间。 | DateTime |
@scheduledStartTime | 对象的计划开始时间。 | DateTime |
@status | 该对象的状态。 | String |
@version | 用来创建对象的管道版本。 | String |
@waitingOn | 该对象在其上处于等待状态的依赖项列表的描述。 | 引用对象,例如 waitingOn ““: {" ref”:” myRunnableObject Id "} |
系统字段 | 描述 | 槽类型 |
---|---|---|
@error | 用于描述格式不正确的对象的错误消息 | String |
@pipelineId | 该对象所属的管道的 ID | String |
@sphere | 对象的范围指明对象在生命周期中的位置:组件对象产生实例对象,后者执行尝试对象 | String |