Lambda 函數擴展

並發性是您的 AWS Lambda 函數同時處理的飛行中請求的數量。Lambda 會針對每個並行請求佈建個別的執行環境執行個體。函數收到更多請求時，Lambda 會自動處理執行環境的擴展數量，直到達到帳戶的並行上限為止。根據預設，Lambda 會為您的帳戶提供一個 AWS 區域中所有函數的總並行上限 1,000 個並行執行數。為了支援您的特定帳戶需求，您可以請求提高配額，並設定函數層級並行控制項，讓您的重要函數不會發生限流。

本主題說明 Lambda 中的並行和函數擴展。本主題結束時，您將能了解如何計算並行、視覺化兩個主要並行控制選項 (預留和佈建)、預估適當的並行控制設定，以及檢視指標以進一步最佳化。

章節

• 了解和視覺化並行
• 如何計算並行
• 並行與每秒請求數
• 預留並行和佈建並行
• 並行配額
• 設定預留並行
• 設定佈建並行
• Lambda 擴展行為
• 監控並行

了解和視覺化並行

Lambda 會在安全且隔離的執行環境中調用函數。為了處理請求，Lambda 必須先初始化執行環境 (初始化階段)，然後才能用它來調用函數 (調用階段)：

注意

實際初始化和調用持續時間可能因許多因素而異，例如您選擇的執行階段和 Lambda 函數程式碼。上圖表的用意並非表示初始化和調用階段持續時間的確切比例。

上圖使用矩形來代表單一執行環境。當函數收到第一個請求 (以帶有 1 標籤的黃色圓圈表示)，Lambda 會建立一個新的執行環境，並在初始化階段於主處理常式之外執行程式碼。接著 Lambda 會在調用階段執行函數的主要處理常式程式碼。在整個過程中，此執行環境會處於忙碌狀態，無法處理其他請求。

Lambda 完成處理第一個請求後，此執行環境就可以處理同一個函數的其他請求。Lambda 不需要為後續請求重新初始化環境。

在上圖中，Lambda 重複使用執行環境來處理第二個請求 (以帶 2 標籤的黃色圓圈表示)。

目前為止，我們只將注意力放在執行環境的單一執行個體 (即並行 1)。實際上，Lambda 可能需要平行佈建多個執行環境執行個體，以便處理所有傳入的請求。當函數收到新請求，可能會發生的情況有以下兩種：

• 如果預先初始化的執行環境執行個體可用，Lambda 會用它來處理請求。

• 若不可用，Lambda 便會建立新的執行環境執行個體來處理請求。

例如，我們來看看當函數收到 10 個請求時會發生什麼情形：

在上圖中，每個水平平面都代表單一執行環境執行個體 (以 A 至 F 標記)。以下是 Lambda 處理每個請求的方式：

Lambda 對請求 1 到 10 的行為
請求	Lambda 行為	推理
1	佈建新環境 A	這是第一個請求；沒有可用的執行環境執行個體。
2	佈建新環境 B	現有的執行環境執行個體 A 忙碌中。
3	佈建新環境 C	現有的執行環境執行個體 A 和 B 都忙碌中。
4	佈建新環境 D	現有的執行環境執行個體 A、B 和 C 都忙碌中。
5	佈建新環境 E	現有的執行環境執行個體 A、B、C 和 D 都忙碌中。
6	重複使用環境 A	執行環境執行個體 A 已完成處理請求 1，現在可供使用。
7	重複使用環境 B	執行環境執行個體 B 已完成處理請求 2，現在可供使用。
8	重複使用環境 C	執行環境執行個體 C 已完成處理請求 3，現在可供使用。
9	佈建新環境 F	現有的執行環境執行個體 A、B、C、D 和 E 都忙碌中。
10	重複使用環境 D	執行環境執行個體 D 已完成處理請求 4，現在可供使用。

當函數收到更多並行請求時，Lambda 會擴展執行環境執行個體的數量做為回應。以下動畫追蹤一段時間內並行請求的數目：

將上方動畫凍結在六個不同的時間點，我們可以得到下圖：

在上圖中，我們可以在任何時間點繪製一條垂直線，並計算與此線相交的環境數量。這可以得出該時間點並行請求的數量。例如，在 t1 時間點，有三個作用中環境可以處理三個並行請求。在 t4 時間點有六個作用中環境可處理六個並行請求，達到此模擬中的並行請求數上限。

總之，函數的並行就是代表函數同時處理的請求數目。為了回應函數並行的增加，Lambda 會佈建更多執行環境執行個體以滿足請求的需求。

如何計算並行

在一般情況下，一個系統的並行是同時處理多個任務的能力。在 Lambda 中，並行是函數可同時處理的傳輸中請求數目。測量 Lambda 函數並行的快速實用方法是使用以下公式：

Concurrency = (average requests per second) * (average request duration in seconds)

並行與每秒請求數不同。例如，假設函數平均每秒收到 100個請求。如果平均請求持續時間為一秒，那麼並行也會是 100：

Concurrency = (100 requests/second) * (1 second/request) = 100

但是，如果平均請求持續時間為 500 毫秒，則並行為 50：

Concurrency = (100 requests/second) * (0.5 second/request) = 50

在實務中並行 50 代表什麼意思？ 如果平均請求持續時間為 500 毫秒，則可以將函數的一個執行個體視為每秒能處理兩個請求。如此一來，函數需要 50 個執行個體來處理每秒 100 個請求的負載。並行 50 表示 Lambda 必須佈建 50 個執行環境執行個體，才能有效率地處理此工作負載，而不需要進行限流。底下以方程式的形式表示：

Concurrency = (100 requests/second) / (2 requests/second) = 50

如果函數收到的請求數量是兩倍 (每秒 200 個請求)，但處理每個請求只需要一半的時間 (250 毫秒)，則並行仍然是 50：

Concurrency = (200 requests/second) * (0.25 second/request) = 50

測驗您對並行的理解

假設您有一個函數，執行時間平均需要 200 毫秒。在峰值負載期間，您觀察到每秒有 5,000 個請求。峰值負載期間函數的並行為何？

答案

平均函數持續時間為 200 毫秒或 0.2 秒。使用並行公式，您可以插入數字來得出並行為 1,000：

Concurrency = (5,000 requests/second) * (0.2 seconds/request) = 1,000

或者，平均函數持續時間為 200 毫秒表示函數每秒可以處理 5 個請求。若要處理每秒 5,000 個請求的工作負載，您需要 1,000 個執行環境執行個體。因此並行為 1,000：

Concurrency = (5,000 requests/second) / (5 requests/second) = 1,000

並行與每秒請求數

如前一節所述，並行與每秒請求數不同。這是使用平均請求持續時間小於 100 毫秒的函數時特別重要的區別。

通常，執行環境的每個執行個體每秒最多可處理 10 個請求 此限制適用於同步隨需函數，以及使用佈建並行的函數。如果您不熟悉此限制，您可能會不知道為什麼這類函數在某些情況下會遇到限流。

例如，假設有一個平均請求持續時間為 50 毫秒的函數。在每秒 200 個請求時，此函數的並行如下：

Concurrency = (200 requests/second) * (0.05 second/request) = 10

根據此結果，您可能預期只需要 10 個執行環境執行個體來處理此負載。不過，每個執行環境每秒只能處理 10 個執行。也就是說，在 10 個執行環境中，您的函數每秒只能處理 200 個請求總數中的 100 個請求。此函數遇到了限流。

因此，在為函數配置並行設定時，您必須同時考慮並行和每秒請求數。在這種情況下，您的函數需要 20 個執行環境，即使它只有 10 個並行。

測試您對並行的理解 (低於 100 毫秒函數)

假設您有一個函數，執行時間平均需要 20 毫秒。在峰值負載期間，您觀察到每秒有 3,000 個請求。峰值負載期間函數的並行為何？

答案

平均函數持續時間為 20 毫秒或 0.02 秒。使用並行公式，您可以插入數字來得出並行為 60：

Concurrency = (3,000 requests/second) * (0.02 seconds/request) = 60

不過，每個執行環境每秒只能處理 10 個請求。使用 60 個執行環境，您的函數每秒最多可以處理 600 個請求。若要完全消化 3,000 個請求，函數至少需要 300 個執行環境的執行個體。

預留並行和佈建並行

根據預設，您帳戶設有一個區域中所有函數的並行執行數上限 1,000。您的函數會隨需共用此 1,000 並行的集區。如果用完可用並行，函數便會發生限流 (即開始捨棄請求)。

某些函數的重要性可能高於其他函數。因此，您可能會想配置並行設定，確保重要函數可獲得所需的並行。並行控制項有兩種：預留並行和佈建並行。

• 使用預留並行將帳戶的一部分並行預留給某個函數。如果您不希望其他函數占用所有可用的未預留並行，此功能非常有用。

• 使用佈建並行為函數預先初始化多個環境執行個體。這對於縮短冷啟動延遲很有幫助。

預留並行

如果您想要保證函數隨時可以使用一定數量的並行，請使用預留並行。

預留並行是要分配給函數的並行執行個體數量上限。將預留並行專門留給某個函數時，其他函數都無法使用該並行。換句話說，設定預留並行可能會影響其他函數可用的並行集區。沒有預留並行的函數會共用未預留剩餘的並行集區。

設定預留並行會計入您的整體帳戶並行上限。設定函數的預留並行不收費。

為了更清楚理解預留並行，請參考下圖：

在本圖中，您的帳戶在此區域中所有函數的並行上限為預設值 1,000。假設您有兩個重要函數 function-blue 和 function-orange，且經常預期出現高調用量。您決定將 400個單位的預留並行提供給 function-blue，並為 function-orange 提供 400 單位的預留並行。在此範例中，您帳戶中的所有其他函數必須共用剩餘 200 單位的未預留並行。

本圖有五個特點：

• 在 t1，function-orange 和 function-blue 都開始接收請求。每個函數開始使用自己分配到的預留並行單元。

• 在 t2，function-orange 和 function-blue 穩定接收更多的請求。同時，您部署了一些其他 Lambda 函數，且這些函數開始接收請求。您沒有將預留並行分配給這些函數。這些函數開始使用剩餘 200 單位的未預留並行。

• 在 t3，function-orange 達到並行上限 400。雖然您帳戶中的其他地方存在未使用的並行，但 function-orange 無法存取。紅線表示 function-orange 正在進行限流，且 Lambda 可能會捨棄請求。

• 在 t4，function-orange 接收的請求開始變少，而且不再限流。但是，其他函數出現流量尖峰並開始限流。雖然您帳戶中的其他地方存在未使用的並行，但這些其他函數無法存取。紅線表示其他函數正在進行限流。

• 在 t5，其他函數接收的請求開始變少，而且不再限流。

在此範例中，請注意預留並行產生了下列影響：

• 函數可以獨立於帳戶中的其他函數進行擴展。您的帳戶下相同區域中沒有預留並行的所有函數，都會共用未預留的並行集區。如果沒有預留並行，其他函數可能會用盡所有可用的並行。這可以視需要防止您的重要數擴展。

• 您的函數無法無止盡擴展。預留並行會對函數的最大並行設定上限。這表示函數不能使用為其他函數預留的並行，也不能使用未預留集區中的並行。您可以預留並行以防止函數用完帳戶中的所有可用並行，或過載下游資源。

• 您可能無法使用帳戶可用的所有並行。預留並行會計入您帳戶的並行上限，但這也表示其他函數無法使用該部分預留並行。如果函數沒有用盡您為它預留的所有並行，那麼實際上就浪費了這些並行。除非浪費的並行可讓您帳戶中的其他函數獲益，這才不會成為問題。

若要管理函數的預留並行設定，請參閱：設定預留並行。

佈建並行

您可以使用預留並行來定義為 Lambda 函數預留的執行環境數目上限。不過，這些環境都不會預先初始化。因此，函數調用可能需要花更長的時間，因為 Lambda 必須先初始化新環境，才能用來調用函數。當 Lambda 必須初始化新環境才能執行調用，就稱為冷啟動。若要緩解冷啟動情形，您可以使用佈建並行。

佈建並行是您要分配給函數的預先初始化執行環境數。如果您為函數設定了佈建並行，Lambda 便會初始化該數量的執行環境，以便立即回應函數請求。

注意

設定佈建並行時，您的帳戶會產生額外費用。如果您正在使用 Java 11 或 Java 17 執行階段，您也可以使用 Lambda SnapStart 來緩解冷啟動問題，而無需額外付費。 SnapStart 使用執行環境的快取快照，大幅改善啟動效能。您不能在相同的函數版本上同時使用 SnapStart 和佈建的並行。如需 SnapStart 功能、限制和支援區域的詳細資訊，請參閱使用 Lambda 改善啟動效能 SnapStart。

使用佈建並行時，Lambda 仍會在背景回收執行環境。但是在任何給定時間，Lambda 總是會確保預先初始化的環境數量等於函數佈建並行設定的值。此行為與預留並行不同，Lambda 可能會在閒置一段時間後完全終止環境。下圖說明這一點，比較為函數設定預留並行和佈建並行的情況下，單一執行環境的生命週期有何差異。

本圖有四個特點：

時間	預留並行	佈建並行
t1	什麼都沒發生。	Lambda 會預先初始化執行環境執行個體。
t2	請求 1 傳入。Lambda 必須初始化新的執行環境執行個體。	請求 1 傳入。Lambda 使用預先初始化的環境執行個體。
t3	閒置一段時間後，Lambda 會終止作用中環境執行個體。	什麼都沒發生。
t4	請求 2 傳入。Lambda 必須初始化新的執行環境執行個體。	請求 2 傳入。Lambda 使用預先初始化的環境執行個體。

為了更清楚理解佈建並行，請參考下圖：

在此圖中，您的帳戶並行上限為 1,000。您決定將 400 單位的佈建並行提供給 function-orange。您帳戶中包括 function-orange 在內的所有函數，都可以使用剩餘 600 單位的未預留並行。

本圖有五個特點：

• 在 t1，function-orange 開始接收請求。由於 Lambda 已預先初始化 400 個執行環境執行個體，因此 function-orange 已準備好立即進行調用。

• 在 t2，function-orange 達到 400 個並行請求。因此，function-orange 用盡了佈建並行。但是由於仍有未預留並行可用，Lambda 還是可以用來處理 function-orange 的其他請求 (沒有限流)。Lambda 必須建立新的執行個體來處理這些請求，而且函數可能會發生冷啟動延遲。

• 在 t3，流量短暫達到峰值後 function-orange 回到 400 個並行請求。Lambda 再度能在沒有冷啟動延遲的情況下處理所有請求。

• 在 t4,帳戶中的函數發生流量暴增情形。此暴增可能來自 function-orange 或帳戶中的任何其他函數。Lambda 使用未預留並行處理這些請求。

• 在 t5，帳戶中的函數達到最大並行上限 1,000，並且發生限流。

上一個範例只考慮了佈建並行。實際上，您可以對函數同時設定佈建並行和預留並行。如果您有一個函數在工作日期間負責處理調用的一致性負載，但週末期間經常會遇到流量峰值，便可以這麼做。在這種情況下，您可以使用佈建並行設定環境的基準數量來處理平日的請求，並使用預留並行處理週末峰值流量。請思考下圖情形：

在此圖中，假設您為 function-orange 設定了 200 單位的佈建並行，以及 400 單位的預留並行。因為您已設定預留並行，因此 function-orange 完全無法使用 600 單位的未預留並行。

此圖有 5 個特點：

• 在 t1，function-orange 開始接收請求。由於 Lambda 已預先初始化 200 個執行環境執行個體，因此 function-orange 已準備好立即進行調用。

• 在 t2，function-orange 用盡了所有佈建並行。function-orange 可以使用預留並行繼續處理請求，但這些請求可能會遇到冷啟動延遲。

• 在 t3，function-orange 達到 400 個並行請求。因此，function-orange 用盡了所有預留並行。由於 function-orange 不能使用未預留並行，因此請求開始限流。

• 在 t4，function-orange 接收的請求開始變少，而且不再限流。

• 在 t5，function-orange 下降到 200 個並行請求，因此所有請求都能再次使用佈建並行 (即無冷啟動延遲)。

預留並行和佈建並行都會計入您的帳戶並行上限和區域配額中。換句話說，分配預留和佈建並行可能會影響其他函數可用的並行集區。設定已佈建的並行會產生您的. AWS 帳戶

注意

如果在函數版本與別名功能上佈建的並行數量加到函數的預留並行，則所有呼叫都會在佈建的並行上執行。此組態也有對未發佈版本函數 ($LATEST) 進行節流的效果，以防止其執行。您無法配置多於函數預留並行的佈建並行。

若要管理函數的佈建並行設定，請參閱 設定佈建並行。若要根據排程或應用程式使用率自動佈建並行擴展，請參閱 使用 Application Auto Scaling 管理佈建並行。

Lambda 如何配置佈建並行

佈建並行不會在設定後立即上線。Lambda 會在準備一兩分鐘後，開始配置佈建的並行。對於每個函數，Lambda 每分鐘最多可佈建 6,000 個執行環境，無論是什麼 AWS 區域。這與函數的並行縮放速率完全相同。

當您提交配置佈建並行的請求時，在 Lambda 完全配置完成之前，您無法存取任何這些環境。例如，如果您請求 5,000 個佈建並行，則在 Lambda 完全完成 5,000 個執行環境的配置之前，您的任何請求都不能使用佈建的並行處理。

比較預留並行和佈建並行

下表總結並比較預留和佈建並行。

主題	預留並行	佈建並行
定義	函數的執行環境執行個體數目上限。	為函數設定預先佈建的執行環境執行個體數目。
佈建行為	Lambda 會隨需佈建新的執行個體。	Lambda 會預先佈建執行個體 (即在函數開始接收請求之前)。
冷啟動行為	由於 Lambda 必須隨需建立新執行個體，因此可能會發生冷啟動延遲。	由於 Lambda 不需要隨需建立執行個體，因此不可能會冷啟動延遲。
限流行為	達到預留並行上限時，會對函數限流。	如果沒有設定預留並行：達到佈建並行上限時，函數會使用未預留的並行。 如果有設定預留並行：達到預留並行上限時，會對函數限流。
未設定情況下的預設行為	函數會使用帳戶中可用的未預留並行。	Lambda 不會預先佈建任何執行個體。反之，如果沒有設定預留並行：函數會使用帳戶中可用的未預留並行。 如果有設定預留並行：函數會使用預留並行。
定價	不收取額外費用。	會產生額外費用。

並行配額

Lambda 會針對區域中所有函數可用的並行總量設定配額。這些配額存在於兩個層級：

• 帳戶層級，預設情況下，函數最多可有 1,000 單位的並行。若要提升配額，請參閱《Service Quotas 使用者指南》中的請求提升配額。

• 函數層級，預設情況下，您可在所有函數間保留最多 900 單位的並行。無論您的總帳戶並行限制為何，Lambda 一律會為未明確保留並行保留的函數保留 100 個並行單位。例如，如果您將帳戶並行上限增加到 2,000，就可以在函數層級預留最多 1,900 單位的並行。

若要檢查您目前的帳戶層級並行配額，請使用 AWS Command Line Interface (AWS CLI) 執行下列命令：

aws lambda get-account-settings

您應該會看到類似以下的輸出：

{
    "AccountLimit": {
        "TotalCodeSize": 80530636800,
        "CodeSizeUnzipped": 262144000,
        "CodeSizeZipped": 52428800,
        "ConcurrentExecutions": 1000,
        "UnreservedConcurrentExecutions": 900
    },
    "AccountUsage": {
        "TotalCodeSize": 410759889,
        "FunctionCount": 8
    }
}

ConcurrentExecutions 是您的帳戶層級並行配額總計。UnreservedConcurrentExecutions 是您仍可配置給函數的保留並行數量。

函數收到更多請求時，Lambda 會自動提高執行環境的數量來處理這些請求，直到您的帳戶達到並行配額為止。但是，為了防止因應突然爆發的流量而過度擴展，Lambda 限制了函數擴展的速度。這種並行擴展率是您帳戶中的函數可以根據不斷增加的請求而擴展的最大速率。(也就是說，Lambda 建立新執行環境的速度可以有多快。) 並行調整比率與帳戶層級並行限制不同，也就是函數可用的並行總金額。

在每個 AWS 區域函數和每個函數中，您的並行擴展速率為每 10 秒 1,000 個執行環境執行個體。換句話說，Lambda 每隔 10 秒就可以為每個函數配置最多 1,000 個額外執行環境的執行個體。

通常情況下，您不需要擔心此限制。對於大多數使用案例，Lambda 的擴展速率已足夠。

重要的是，並行縮放速率是函數層級限制。這意味著帳戶中的每個函數都可以獨立於其他函數進行擴展。

如需擴展行為的詳細資訊，請參閱 Lambda 擴展行為。