分析資料表 - Amazon Redshift

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

分析資料表

ANALYZE 操作可更新查詢規劃器用來選擇最佳計畫的統計中繼資料。

在大多數情況下,您不需要明確執行 ANALYZE 命令。Amazon Redshift 會監控您的工作負載的變更,並在背景中自動更新統計資訊。此外,COPY 命令在將資料載入至空白資料表時會自動執行分析。

若要明確分析資料表或整個資料庫,請執行 ANALYZE 命令。

自動分析

Amazon Redshift 會持續監控資料庫,並自動在背景中執行分析操作。為了盡量減少對系統效能的影響,自動分析會在工作負載較低期間執行。

預設會啟用自動分析。若要停用自動分析,請修改叢集的參數群組,將 auto_analyze 參數設為 false

為了減少處理時間並提高整體系統效能,Amazon Redshift 會略過修改程度較小的任何資料表的自動分析。

分析操作會略過有 up-to-date 統計資料。如果您在擷取、轉換和載入 (ETL) 工作流程中執行 ANALYZE,自動分析會略過有最新統計資訊的資料表。同樣地,當自動分析已更新資料表的統計資訊時,明確 ANALYZE 會略過資料表。

新資料表資料的分析

依預設,COPY 命令在將資料載入至空白資料表之後會執行 ANALYZE。設定 STATUPDATE ON,即可以強制 ANALYZE 而不論資料表是否空白。如果您指定 STATUPDATE OFF,則不會執行 ANALYZE。將 STATUPDATE 設為 ON 時,只有資料表擁有者或超級使用者可以執行 ANALYZE 命令或執行 COPY 命令。

Amazon Redshift 還會分析您使用下列命令建立的新資料表:

  • CREATE TABLE AS (CTAS)

  • CREATE TEMP TABLE AS

  • SELECT INTO

對最初載入資料後未分析的新資料表執行查詢時,Amazon Redshift 會傳回警告訊息。在後續更新或載入之後查詢資料表時不會發生警告。如果查詢所參考的資料表尚未分析,當您在該資料表上執行 EXPLAIN 命令時,將會傳回相同的警告訊息。

每當將資料新增至非空白資料表就會大幅改變資料表大小時,您可以明確更新統計資訊。若要這麼做,請執行 ANALYZE 命令,或在 COPY 命令中使用 STATUPDATE ON 選項。若要檢視自前次 ANALYZE 以來插入或刪除的資料列數目的詳細資訊,請查詢 PG_STATISTIC_INDICATOR 系統目錄資料表。

您可以將 ANALYZE 命令的範圍指定為下列其中一項:

  • 整個目前資料庫

  • 單一資料表

  • 單一資料表中的一或多個特定資料欄

  • 可能用作查詢中述詞的資料欄

ANALYZE 命令會從資料表取得資料列的樣本,執行一些計算,並儲存所產生的資料欄統計資訊。默認情況下,Amazon Redshift 會為 DISTKEY 資料欄執行一個樣本階段,以及為資料表中的所有其他資料欄執行另一個樣本階段。如果您想要為資料欄的子集產生統計資料,您可以指定以逗點分隔的資料欄清單。您可以搭配 PREDICATE COLUMNS 子句執行 ANALYZE,以略過未作為述詞的欄。

ANALYZE 操作相當耗用資源,因此請僅對實際需要統計資料更新的資料表和資料欄執行。您不需要經常或按相同的排程分析所有資料表中的所有資料欄。如果資料本質上變更,請分析在下列項目中經常使用的資料欄:

  • 排序和群組操作

  • 聯結

  • 查詢述詞

為了減少處理時間並提高整體系統效能,Amazon Redshift 會對於變更的資料列百分比 (取決於analyze_threshold_percent參數。依預設,分析閾值是設為 10%。您可以執行 SET 命令來變更目前工作階段的分析閾值。

較不需要頻繁分析的資料欄為代表事實和量值的那些資料欄,以及實際上從不會查詢的任何相關屬性,例如大型 VARCHAR 資料欄。例如,考慮 TICKIT 資料庫中的 LISTING 資料表。

select "column", type, encoding, distkey, sortkey from pg_table_def where tablename = 'listing'; column | type | encoding | distkey | sortkey ---------------+--------------------+----------+---------+--------- listid | integer | none | t | 1 sellerid | integer | none | f | 0 eventid | integer | mostly16 | f | 0 dateid | smallint | none | f | 0 numtickets | smallint | mostly8 | f | 0 priceperticket | numeric(8,2) | bytedict | f | 0 totalprice | numeric(8,2) | mostly32 | f | 0 listtime | timestamp with... | none | f | 0

如果此資料表每天會載入大量的新記錄,則需要經常分析在查詢中經常用作聯結索引鍵的 LISTID 資料欄。如果 TOTALPRICE 和 LISTTIME 是經常在查詢中使用的條件,您可以在週間每天分析這些資料欄和分佈索引鍵。

analyze listing(listid, totalprice, listtime);

假設應用程式中的銷售者和事件更為靜態,而日期 ID 參考僅涵蓋兩年或三年的固定一組日期。在此情況下,這些欄的唯一值不會大幅變更。不過,每個唯一值的執行個體數目將會穩定增加。

此外,考慮相較於 TOTALPRICE 資料欄,較不常查詢 NUMTICKETS 和 PRICEPERTICKET 量值的情況。在此情況下,您可以在每個週末對整個資料表執行一次 ANALYZE 命令,以更新沒有每日分析的五個欄的統計資訊:

述詞欄位

做為指定資料欄清單的便利替代方案,您可以選擇僅分析可能用來作為述詞的資料列。執行查詢時,在聯結中使用的任何資料欄、篩選條件或群組依據子句會在系統目錄中標示為述詞資料欄。執行 ANALYZE 搭配 PREDICATE COLUMNS 子句時,分析操作只會包括符合以下條件的資料欄:

  • 此資料欄已標示為述詞資料欄。

  • 資料欄是分佈索引鍵。

  • 資料欄是排序索引鍵的一部分。

如果沒有任一個資料表的資料欄已標示為述詞,ANALYZE 會包括所有資料欄,即使指定了 PREDICATE COLUMNS 亦然。如果沒有資料欄已標示為述詞資料欄,可能是因為尚未查詢該資料表。

當您的工作負載的查詢模式相對穩定時,您可能選擇使用 PREDICATE COLUMNS。當查詢模式變動時,由於經常使用不同的資料欄做為述詞,使用 PREDICATE COLUMNS 可能會暫時造成過時的統計資料。過時的統計資料可能導致次佳的查詢執行計劃和長執行時間。不過,當您下次使用 PREDICATE COLUMNS 執行 ANALYZE 時,會包含新的述詞資料欄。

若要檢視述詞資料欄的詳細資訊,請使用下列 SQL 來建立名為 PREDICATE_COLUMNS 的檢視。

CREATE VIEW predicate_columns AS WITH predicate_column_info as ( SELECT ns.nspname AS schema_name, c.relname AS table_name, a.attnum as col_num, a.attname as col_name, CASE WHEN 10002 = s.stakind1 THEN array_to_string(stavalues1, '||') WHEN 10002 = s.stakind2 THEN array_to_string(stavalues2, '||') WHEN 10002 = s.stakind3 THEN array_to_string(stavalues3, '||') WHEN 10002 = s.stakind4 THEN array_to_string(stavalues4, '||') ELSE NULL::varchar END AS pred_ts FROM pg_statistic s JOIN pg_class c ON c.oid = s.starelid JOIN pg_namespace ns ON c.relnamespace = ns.oid JOIN pg_attribute a ON c.oid = a.attrelid AND a.attnum = s.staattnum) SELECT schema_name, table_name, col_num, col_name, pred_ts NOT LIKE '2000-01-01%' AS is_predicate, CASE WHEN pred_ts NOT LIKE '2000-01-01%' THEN (split_part(pred_ts, '||',1))::timestamp ELSE NULL::timestamp END as first_predicate_use, CASE WHEN pred_ts NOT LIKE '%||2000-01-01%' THEN (split_part(pred_ts, '||',2))::timestamp ELSE NULL::timestamp END as last_analyze FROM predicate_column_info;

假設您對 LISTING 資料表執行下列查詢。請注意,聯結、篩選條件和群組依據子句中會使用 LISTID、LISTTIME 和 EVENTID。

select s.buyerid,l.eventid, sum(l.totalprice) from listing l join sales s on l.listid = s.listid where l.listtime > '2008-12-01' group by l.eventid, s.buyerid;

查詢 PREDICATE_COLUMNS 檢視時,如下列範例所示,您會看到 LISTID、EVENTID 和 LISTTIME 都標示為述詞欄。

select * from predicate_columns where table_name = 'listing';
schema_name | table_name | col_num | col_name       | is_predicate | first_predicate_use | last_analyze       
------------+------------+---------+----------------+--------------+---------------------+--------------------
public      | listing    |       1 | listid         | true         | 2017-05-05 19:27:59 | 2017-05-03 18:27:41
public      | listing    |       2 | sellerid       | false        |                     | 2017-05-03 18:27:41
public      | listing    |       3 | eventid        | true         | 2017-05-16 20:54:32 | 2017-05-03 18:27:41
public      | listing    |       4 | dateid         | false        |                     | 2017-05-03 18:27:41
public      | listing    |       5 | numtickets     | false        |                     | 2017-05-03 18:27:41
public      | listing    |       6 | priceperticket | false        |                     | 2017-05-03 18:27:41
public      | listing    |       7 | totalprice     | false        |                     | 2017-05-03 18:27:41
public      | listing    |       8 | listtime       | true         | 2017-05-16 20:54:32 | 2017-05-03 18:27:41

保持最新的統計資訊可讓查詢規劃器選擇最佳計劃,以提高查詢效能。Amazon Redshift 會自動在背景中重新整理統計資訊,您也可以明確執行 ANALYZE 命令。如果您選擇明確執行 ANALYZE,請執行下列操作:

  • 執行查詢之前執行 ANALYZE 命令。

  • 在每個定期載入或更新週期結束時,例行地在資料庫上執行 ANALYZE 命令。

  • 在您建立的任何新資料表和經歷大幅變更的任何現有資料表或資料欄上執行 ANALYZE 命令。

  • 根據在查詢中的用途和變更的傾向,考慮以不同的排程為不同類型的資料表和資料欄執行 ANALYZE 操作。

  • 為了節省時間和叢集資源,執行 ANALYZE 時請使用 PREDICATE COLUMNS 子句。

分析操作會略過有 up-to-date 統計資料。如果您在擷取、轉換和載入 (ETL) 工作流程中執行 ANALYZE,自動分析會略過有最新統計資訊的資料表。同樣地,當自動分析已更新資料表的統計資訊時,明確 ANALYZE 會略過資料表。