View a markdown version of this page

Amazon MSK-Datenlieferung - Amazon Managed Streaming für Apache Kafka

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Amazon MSK-Datenlieferung

Mit der Amazon MSK-Datenbereitstellung können Sie Apache Kafka-Daten von Amazon MSK Express-Brokern direkt an Amazon S3 übermitteln, ohne dass Konnektoren oder zusätzliche Infrastruktur verwaltet werden müssen. Amazon MSK Express kümmert sich automatisch um Skalierung, Wiederholungsversuche und Gegendruck und verwaltet Routineoperationen wie Kapazitätsskalierung und Versions-Upgrades, ohne dass es zu Lieferlücken kommt. Da es sich um native Broker-Funktionen handelt, erhöhen sie keinen Broker-Outgress-Durchsatz. So vermeiden Sie die zusätzlichen Infrastrukturkosten, die bei der Skalierung von Connector-basierten Pipelines normalerweise anfallen, und passen die Kapazität an den tatsächlichen Workload-Bedarf an, anstatt die Bereitstellung für Spitzenlasten bereitzustellen. Jede Funktion unterstützt einen Durchsatz von bis zu 10 Gbit/s.

Die beiden Funktionen sind:

  • Datenbereitstellung an Streaming-Tabellen für Apache Iceberg — Mit Amazon MSK Data Delivery können Sie Apache Kafka-Themen kontinuierlich als Apache Iceberg-Tabellen in Amazon S3-Tabellen materialisieren. Die intelligente Inline-Komprimierung eliminiert die Leistungseinbußen kleiner Dateien und sorgt dafür, dass die Abfrageleistung vorhersehbar ist, ohne die Aktualität der Daten zu beeinträchtigen. Built-in Durch die Koordination werden Schreibkonflikte gelöst, die bei Verbrauchern mit hohem Durchsatz gleichzeitig auftreten. Amazon S3 Tables kümmert sich automatisch um die laufende Tabellenpflege, einschließlich der Komprimierung, des Ablaufs von Snapshots und der Bereinigung unreferenzierter Dateien.

  • Datenlieferung an Amazon S3-Buckets für allgemeine Zwecke — Mit Amazon MSK Data Delivery können Sie Apache Kafka-Daten im Quellformat an Amazon S3-Allzweck-Buckets für die nachgelagerte Verarbeitung liefern, wobei die Zuverlässigkeit für unternehmenskritische Workloads durchgängig gewährleistet ist. Verwenden Sie es, um Kafka-Daten in Amazon S3 für Anwendungsfälle wie Protokollarchivierung, Aufbewahrung von Vorschriften, Kafka-Wiedergabe und Trainingsmodelle zu speichern. AI/ML Durch diesen Ansatz entfällt die Notwendigkeit, selbstverwaltete Connector-Pipelines zu erstellen, die mit zunehmender Auslastung kostspielig und betrieblich komplex werden.