移除异常值 - AWS Glue DataBrew

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

移除异常值

根据参数中的设置,移除归类为异常值的数据点。

参数
  • sourceColumn— 指定可能包含异常值的现有数值列的名称。

  • outlierStrategy— 指定用于检测异常值的方法。有效值包括:

    • Z_SCORE— 当一个值与均值的偏差超过标准差阈值时,将其标识为异常值。

    • MODIFIED_Z_SCORE— 当一个值与中位数的偏差超过中位数绝对偏差阈值时,将其标识为异常值。

    • IQR— 当某个值超出列数据的第一个和最后一个四分位数时,将其标识为异常值。四分位数范围 (IQR) 用于衡量中间50%的数据点所在的位置。

  • threshold— 指定检测异常值时要使用的阈值。如果用计算的分数outlierStrategy超过此数字,则该sourceColumn值将被标识为异常值。默认值为 3。

  • removeType— 指定删除数据的方式。有效值包括 DELETE_ROWSCLEAR

  • trimValue— 指定是移除全部异常值还是部分异常值。此布尔值默认为FALSE

    • FALSE— 移除所有异常值

    • TRUE— 移除排名超出和中指定的百分位数阈值的异常值。minValue maxValue

  • minValue— 表示异常值范围的最小百分位数值。有效范围为 1 — 100。

  • maxValue— 表示异常值范围的最大百分位数值。有效范围为 1 — 100。

以下示例显示了单个RecipeAction操作的语法。一个配方至少包含一个RecipeStep操作,一个配方步骤至少包含一个配方操作。配方操作会运行您指定的数据转换。一组配方操作按顺序运行以创建最终数据集。

JSON

下面显示了一个使用 JSON 语法作为RecipeStep DataBrew 配方示例成员的示例。RecipeAction有关显示配方操作列表的语法示例,请参阅定义配方结构

例 示例 JSON
{ "Action": { "Operation": "REMOVE_OUTLIERS", "Parameters": { "sourceColumn": "name-of-existing-column", "outlierStrategy": "Z_SCORE", "threshold": "3", "removeType": "DELETE_ROWS", "trimValue": "TRUE", "minValue": "5", "maxValue": "95" } } }

有关在 API 操作中使用此配方操作的更多信息,请参阅CreateRecipeUpdateRecipe。您可以在自己的代码中使用这些操作和其他 API 操作。

YAML

下面显示了一个使用 YAML 语法作为 DataBrew 配方示例成员RecipeStep的示例。RecipeAction有关显示配方操作列表的语法示例,请参阅定义配方结构

例 示例 YAML
- Action: Operation: REMOVE_OUTLIERS Parameters: sourceColumn: name-of-existing-column outlierStrategy: Z_SCORE threshold: '3' removeType: DELETE_ROWS trimValue: 'TRUE' minValue: '5' maxValue: '95'

有关在 API 操作中使用此配方操作的更多信息,请参阅CreateRecipeUpdateRecipe。您可以在自己的代码中使用这些操作和其他 API 操作。