View a markdown version of this page

Amazon-MSK-Kontingent - Amazon Managed Streaming für Apache Kafka

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Amazon-MSK-Kontingent

Ihr AWS-Konto hat Standardkontingente für Amazon MSK. Sofern nicht anders angegeben, liegt jedes Kontingent pro Konto Region-specific innerhalb Ihres. AWS-Konto

Beantragung einer Kontingenterhöhung in Amazon MSK

Sie können eine Kontingenterhöhung für jede Region mithilfe der Service Quota-Konsole oder in einem Supportfall beantragen. AWS CLI Wenn in der Service Quota-Konsole kein anpassbares Kontingent verfügbar ist, verwenden Sie das, AWS Support Center Console um einen Fall zur Erhöhung des Servicekontingents zu erstellen.

Der Support könnte Ihre Anfragen zur Erhöhung des Kontingents genehmigen, ablehnen oder teilweise genehmigen. Erhöhungen werden nicht sofort gewährt. Es kann ein paar Tage dauern, bis sie wirksam werden.

So fordern Sie eine Erhöhung über die Service-Quotas-Konsole an
  1. Öffnen Sie die Service Quotas-Konsole unter https://console.aws.amazon.com/servicequotas/.

  2. Wählen Sie auf der Navigationsleiste eine Region aus.

  3. Wählen Sie im linken Navigationsbereich die Option AWS-Services aus.

  4. Geben Sie in das Feld Dienste suchen den Text Amazon Managed Streaming for Apache Kafka (MSK) einmsk, und wählen Sie dann Amazon Managed Streaming for Apache Kafka (MSK) aus.

  5. Wählen Sie unter Dienstkontingente den Namen des Kontingents aus, für das Sie eine Erhöhung beantragen möchten. Beispiel, Number of brokers per account.

  6. Wählen Sie Erhöhung auf Kontoebene beantragen aus.

  7. Geben Sie unter Kontingentwert erhöhen einen neuen Kontingentwert ein.

  8. Wählen Sie Anfrage aus.

  9. (Optional) Um alle ausstehenden oder kürzlich gelösten Anfragen in der Konsole anzuzeigen, wählen Sie im linken Navigationsbereich Dashboard aus. Wählen Sie für ausstehende Anfragen den Status der Anfrage, um die Anfrage zu öffnen. Der Anfangsstatus einer Anfrage ist Pending (Ausstehend). Nachdem sich der Status in „angefordertes Kontingent“ geändert hat, wird Ihnen die Fallnummer beim Support angezeigt. Wählen Sie die Fallnummer, um das Ticket für Ihre Anfrage zu öffnen.

Weitere Informationen, einschließlich der Verwendung der AWS CLI oder SDKs, um eine Kontingenterhöhung anzufordern, finden Sie unter Beantragen einer Kontingenterhöhung im Service Contingents-Benutzerhandbuch.

Amazon MSK Standard-Broker-Kontingent

In der folgenden Tabelle werden die Kontingente für Standard-Broker beschrieben.

Dimension Kontingent Hinweise
Makler pro Konto 90 Um ein höheres Kontingent anzufordern, rufen Sie die Service Quota-Konsole auf.
Broker pro Cluster 30 für ZooKeeper-based Cluster 60 für KRaft-based Cluster Um ein höheres Kontingent anzufordern, rufen Sie die Service Quota-Konsole auf.
Mindestspeicher pro Broker 1 GiB
Maximaler Speicherplatz pro Broker 16384 GiB
Maximale TCP-Verbindungen pro Broker (IAM Access Control) 3000 Um dieses Limit zu erhöhen, können Sie die Konfigurationseigenschaft listener.name.client_iam.max.connections oder die listener.name.client_iam_public.max.connections Konfigurationseigenschaft mithilfe der AlterConfig Kafka-API oder des kafka-configs.sh Tools anpassen. Es ist wichtig zu beachten, dass das Erhöhen einer der beiden Eigenschaften auf einen hohen Wert die Verfügbarkeit beeinträchtigen kann.
Maximale TCP-Verbindungsrate pro Broker (IAM) 100 pro Sekunde (M5- und M7g-Instanzgrößen) 4 pro Sekunde (t3-Instanzgröße) Um Wiederholungsversuche bei fehlgeschlagenen Verbindungen zu verarbeiten, können Sie den Konfigurationsparameter reconnect.backoff.ms auf der Client-Seite festlegen. Wenn Sie beispielsweise möchten, dass ein Client nach 1 Sekunde erneut versucht, Verbindungen herzustellen, setzen Sie den Wert auf. reconnect.backoff.ms 1000 Weitere Informationen finden Sie unter reconnect.backoff.ms in der Apache-Kafka-Dokumentation.
Maximale TCP-Verbindungen pro Broker (ohne IAM) N/A MSK erzwingt keine Verbindungslimits für Nicht-IAM-Authentifizierungen. Sie sollten andere Messwerte wie die CPU- und Speicherauslastung überwachen, um sicherzustellen, dass Sie Ihren Cluster nicht aufgrund übermäßiger Verbindungen überlasten.
Konfigurationen pro -Konto 100 Um ein höheres Kontingent anzufordern, rufen Sie die Service Quota-Konsole auf.

Um die Konfiguration oder die Apache-Kafka-Version eines MSK-Clusters zu aktualisieren, stellen Sie zunächst sicher, dass die Anzahl der Partitionen pro Broker unter den in Right-size Ihr Cluster: Anzahl der Partitionen pro Standard-Broker beschriebenen Grenzwerten liegt.

Änderungen der Konfiguration pro Konto 50

Amazon MSK Express-Brokerquote

In der folgenden Tabelle werden die Kontingente für Express-Broker beschrieben.

Dimension Kontingent Hinweise
Makler pro Konto 90 Um ein höheres Kontingent anzufordern, rufen Sie die Service Quota-Konsole auf.
Broker pro Cluster 30 für ZooKeeper-based Cluster 60 für KRaft-based Cluster Um ein höheres Kontingent anzufordern, rufen Sie die Service Quota-Konsole auf.
Maximaler Speicher Unbegrenzt
Maximale TCP-Verbindungen pro Broker (IAM Access Control) 3000

Um das Verbindungslimit zu erhöhen, passen Sie mithilfe der AlterConfig Kafka-API oder des Tools kafka-configs.sh eine der folgenden Konfigurationseigenschaften an:

  • listener.name.client_iam.max.connections

  • listener.name.client_iam_public.max.connections

Wenn Sie diese Eigenschaften auf einen hohen Wert setzen, kann dies zur Nichtverfügbarkeit des Clusters führen.

Maximale TCP-Verbindungsrate pro Broker (IAM) 100 pro Sekunde Um Wiederholungsversuche bei fehlgeschlagenen Verbindungen zu verarbeiten, können Sie den Konfigurationsparameter reconnect.backoff.ms auf der Client-Seite festlegen. Wenn Sie beispielsweise möchten, dass ein Client nach einer Sekunde erneut versucht, Verbindungen herzustellen, setzen reconnect.backoff.ms Sie den Wert auf. 1000 Weitere Informationen finden Sie unter reconnect.backoff.ms in der Apache-Kafka-Dokumentation.
Maximale TCP-Verbindungen pro Broker (ohne IAM) N/A MSK erzwingt keine Verbindungslimits für Nicht-IAM-Authentifizierungen. Sie sollten jedoch andere Messwerte wie die CPU- und Speicherauslastung überwachen, um sicherzustellen, dass Sie Ihren Cluster nicht aufgrund übermäßiger Verbindungen überlasten.
Konfigurationen pro -Konto 100 Um ein höheres Kontingent anzufordern, rufen Sie die Service Quota-Konsole auf. Um die Konfiguration oder die Apache-Kafka-Version eines MSK-Clusters zu aktualisieren, stellen Sie zunächst sicher, dass die Anzahl der Partitionen pro Broker unter den in Right-size Ihr Cluster: Anzahl der Partitionen pro Express-Broker beschriebenen Grenzwerten liegt.
Änderungen der Konfiguration pro Konto 50
Maximaler Ingress pro Broker Empfohlen: 15,6 — 500,0 Mbit/s Basierend auf der Instanzgröße.
Maximaler Ausgangsstrom pro Broker Empfohlen: 31,2 — 1000,0 Mbit/s Basierend auf der Instanzgröße.
Durchsatz pro Partition Maximal 15 MB/s

Grenzwerte für den Durchsatz von Express-Brokern je nach Brokergröße

In der folgenden Tabelle sind die empfohlenen und maximalen Grenzwerte für den Durchsatz in Bezug auf den Ein- und Ausgang für verschiedene Brokergrößen aufgeführt. In dieser Tabelle wird der empfohlene Durchsatz als Dauerleistung dargestellt. Dies ist der Schwellenwert, bis zu dem Ihre Anwendungen keine Leistungseinbußen erfahren. Wenn Sie diese Grenzwerte in einer der beiden Dimensionen überschreiten, erzielen Sie möglicherweise einen höheren Durchsatz, es kann jedoch auch zu Leistungseinbußen kommen. Das maximale Kontingent ist der Schwellenwert, bei dem Ihr Cluster den read/write Datenverkehr drosselt. Ihre Anwendungen können diesen Schwellenwert nicht überschreiten.

Instance-Größe Dauerhafte Leistung (MBit/s) bei eingehendem Zugriff Maximales Kontingent (Mbit/s) für eingehenden Datenverkehr Anhaltende Leistung (MBit/s) für ausgehenden Datenverkehr Maximales Kontingent (MBit/s) für ausgehenden Datenverkehr
express.m7g.large 15,6 23,4 31,2 58,5
express.m7g.xlarge 31.2 46,8 62,5 117
express.m7g.2 x groß 62,5 93,7 125 234,2
express.m7g.4x groß 124,9 187,5 249,8 468,7
express.mg.8 x groß 250 375 500 937,5
express. mg, 7 g, 12 x groß 375 562,5 750 1406,2
express.m7g.16x groß 500 750 1000 1875

Partitionskontingent für Express Broker

Die folgende Tabelle zeigt die empfohlene Anzahl von Partitionen (einschließlich Leader- und Follower-Repliken) für jeden Express Broker. Sie können die in der folgenden Tabelle angegebene maximale Anzahl von Partitionen für jeden Express-Broker nicht überschreiten.

Informationen zu den bewährten Methoden, die Sie bei der Zuweisung von Partitionen zu Express-Brokern berücksichtigen sollten, finden Sie unterRight-size Ihr Cluster: Anzahl der Partitionen pro Express-Broker.

Größe des Brokers Empfohlene maximale Anzahl von Partitionen (einschließlich Leader- und Follower-Replikate) pro Broker Maximale Anzahl von Partitionen pro Broker

express.m7g.large

1000 1500

express.m7g.xlarge

1000 2000

express.m7g.2xlarge

2500 4000

express.m7g.4xlarge

6 000 8000

express.m7g.8xlarge

12000 16000

express.m7g.12xlarge

16000 24000

express.m7g.16xlarge

20000 32000

MSK Replicator-Kontingente

  • Maximal 15 MSK-Replikatoren pro Konto.

  • MSK Replicator repliziert nur bis zu 750 Themen in sortierter Reihenfolge. Wenn Sie mehr Themen replizieren müssen, empfehlen wir Ihnen, einen separaten Replicator zu erstellen. Wenn Sie Support für mehr als 750 Themen pro Replicator anfordern möchten, wenden Sie sich an den Support. AWS Mithilfe der Metrik können Sie die Anzahl der Themen überwachen, die TopicCount repliziert werden.

  • Ein maximaler Eingangsdurchsatz von 1 GB pro Sekunde pro MSK Replicator. Um ein höheres Kontingent anzufordern, wenden Sie sich an den Support. AWS

  • MSK Replicator-Datensatzgröße — Eine maximale Datensatzgröße von 10 MB für die regionsübergreifende Replikation und 20 MB für die Replikation in derselben Region (). message.max.bytes Um ein höheres Kontingent anzufordern, wenden Sie sich an den Support. AWS

MSK-Serverless-Kontingent

Die in der folgenden Tabelle angegebenen Kontingente gelten pro Cluster, sofern nicht anders angegeben.

Anmerkung

Wenn Sie Probleme mit den Servicekontingentbeschränkungen haben, erstellen Sie einen Supportfall mit Ihrem Anwendungsfall und dem angeforderten Limit.

Dimension Kontingent Ergebnis einer Kontingentverletzung

Maximaler Eingangsdurchsatz

200 Mbit/s

Verlangsamung mit Drosselungsdauer als Reaktion

Maximaler Eingangsdurchsatz 400 Mbit/s

Verlangsamung mit Drosselungsdauer als Reaktion

Maximale Aufbewahrungsdauer Unbegrenzt N/A

Maximale Anzahl von Client-Verbindungen

3000 Verbindung geschlossen
Maximale Verbindungsversuche 100 pro Sekunde Verbindung geschlossen

Maximale Nachrichtengröße

8 MiB Die Anfrage schlägt fehl mit ErrorCode: INVALID_REQUEST
Maximale Anforderungsrate 15 000 pro Sekunde Verlangsamung mit Drosselungsdauer als Reaktion

Maximale Rate von Anfragen an Themen-Management-APIs

2 pro Sekunde Verlangsamung mit Drosselungsdauer als Reaktion

Maximale Anzahl an abrufbaren Bytes pro Anfrage

55 MB

Die Anfrage schlägt fehl mit ErrorCode: INVALID_REQUEST

Maximale Anzahl von Verbrauchergruppen

500 JoinGroup Anfrage schlägt fehl
Maximale Anzahl von Partitionen (Leaders) 2 400 für nicht komprimierte Themen. 120 für komprimierte Themen. Um eine Anpassung des Servicekontingents anzufordern, erstellen Sie einen Supportfall mit Ihrem Anwendungsfall und dem angeforderten Limit. Die Anfrage schlägt fehl mit ErrorCode: INVALID_REQUEST
Maximale Geschwindigkeit beim Erstellen und Löschen von Partitionen 250 in 5 Minuten Die Anfrage schlägt fehl mit ErrorCode: THROUGHPUT_QUOTA_EXCEEDED

Maximaler Eingangsdurchsatz pro Partition

5 Mbit/s Verlangsamung mit Drosselungsdauer als Reaktion

Maximaler Ausgangsdurchsatz pro Partition

10 Mbit/s Verlangsamung mit Drosselungsdauer als Reaktion

Maximale Partitionsgröße (für komprimierte Themen)

250 GB Die Anfrage schlägt fehl mit: THROUGHPUT_QUOTA_EXCEEDED ErrorCode
Maximale Anzahl von Client-VPCs pro Serverless-Cluster 5
Maximale Anzahl von Serverless-Clustern pro Konto 10. Um eine Anpassung des Servicekontingents anzufordern, erstellen Sie einen Supportfall mit Ihrem Anwendungsfall und dem angeforderten Limit.

MSK-Connect-Kontingent

  • Bis zu 100 benutzerdefinierte Plugins.

  • Bis zu 100 Worker-Konfigurationen.

  • Bis zu 60 Connect-Worker. Wenn ein Konnektor für automatisch skalierte Kapazität eingerichtet ist, verwendet MSK Connect die maximale Anzahl von Workern, die für diesen Konnektor konfiguriert sind, um das Kontingent für das Konto zu berechnen.

  • Bis zu 10 Worker pro Anschluss.

Um ein höheres Kontingent für MSK Connect anzufordern, rufen Sie die Service Quota-Konsole auf.

Kontingente für Amazon MSK Data Delivery

Die folgenden Kontingente gelten für Amazon MSK Data Delivery Channels.

RessourceStandardkontingentEinstellbar

Kanäle pro Amazon MSK-Cluster

50

Ja

Kanäle pro Kafka-Thema

10

Ja

Maximales Datenaktualisierungsintervall

15 Minuten

Nein

Minimales Datenaktualisierungsintervall

5 Minuten

Nein

Mindestdurchsatz für eine Aktualität von 5 Minuten (S3-Tabellen)

2,4 MB/s pro Kanal

Nein

Maximaler Durchsatz pro Kanal

Bis zu 10 GB/s

Nein

Maximale Partitionen pro Tabelle (S3-Tabellen)

100

Nein

Unterstützte Eingabeformate (S3-Tabellen)

JSON, JSON_SCHEMA_GSR

Nein

Unterstützte Eingabeformate (S3-Bucket)

JSON ByteArray, Zeichenfolge

Nein

Ausgabeformat (S3-Tabellen)

Apache Iceberg; Parquet-Dateien mit ZSTD- oder Snappy-Komprimierung

Nein

Ausgabekomprimierung (S3-Bucket)

NONE, GZIP oder ZSTD

Nein

Schemaentwicklung

Nicht unterstützt

Nein

Maximale Länge des Themennamens

249 Zeichen

Nein

Maximale Länge des Tabellennamens

255 Zeichen

Nein

Um eine Erhöhung für ein anpassbares Kontingent zu beantragen, verwenden Sie das Verfahren unterBeantragung einer Kontingenterhöhung in Amazon MSK.