Cuota de Amazon MSK - Transmisión administrada de Amazon para Apache Kafka

Cuota de Amazon MSK

La Cuenta de AWS tiene cuotas predeterminadas para Amazon MSK. Salvo que se indique lo contrario, cada cuota por cuenta es específica de la región dentro de la Cuenta de AWS.

Solicitud de un aumento de cuota en Amazon MSK

Puede solicitar un aumento de cuota para cada región mediante la consola de Service Quotas, AWS CLI o un caso de soporte. Si una cuota ajustable no está disponible en la consola de Service Quotas, utilice la AWS Support Center Console para crear un caso de incremento de Service Quotas.

El soporte puede aprobar, denegar o aprobar parcialmente las solicitudes de aumento de cuota. Los aumentos no se conceden de inmediato y pueden tardar varios días en surtir efecto.

Para solicitar un aumento, visite la Consola de Service Quotas.
  1. Abra la consola de Service Quotas en https://console.aws.amazon.com/servicequotas/.

  2. Desde la barra de navegación, parte superior de la pantalla, seleccione una región.

  3. En el panel de navegación izquierdo, elija Servicios de AWS.

  4. En el cuadro Buscar servicios, escriba msk y, a continuación, elija Amazon Managed Streaming para Apache Kafka (MSK).

  5. En Cuotas de servicio elija el nombre de la cuota para la que desea solicitar un aumento. Por ejemplo, Number of brokers per account.

  6. Elija Solicitud de aumento a nivel de cuenta.

  7. En Aumentar valor de cuota, introduzca un nuevo valor de cuota.

  8. Seleccione Request (Solicitar).

  9. (Opcional) Para ver cualquier solicitud pendiente o resuelta recientemente en la consola, elija Panel en el panel de navegación izquierdo. Para las solicitudes pendientes, seleccione el estado de la solicitud para abrir la recepción de solicitud. El estado inicial de una solicitud es Pendiente. Después de que el estado cambie a Cuota solicitada, verá el número de caso con el soporte. Elija el número de caso para abrir el ticket para su solicitud.

Para obtener más información, incluida la forma de utilizar la AWS CLI o los SDK o para solicitar un aumento de cuota, consulte Solicitud de un aumento de cuota en la Guía del usuario de Service Quotas.

Cuota estándar de agentes de Amazon MSK

La siguiente tabla describe las cuotas para agentes estándar.

Dimensión Cuota Notas
Agentes por cuenta 90 Para solicitar una cuota más alta, vaya a la consola de Service Quotas.
Agentes por clúster 30 para clústeres basados en ZooKeeper; 60 para clústeres basados en KRaft Para solicitar una cuota más alta, vaya a la consola de Service Quotas.
Almacenamiento mínimo por agente 1 GiB
Almacenamiento máximo por agente 16384 GiB
Máximo de conexiones TCP por agente (control de acceso de IAM) 3 000 Para aumentar este límite, puede ajustar listener.name.client_iam.max.connections o la propiedad de configuración listener.name.client_iam_public.max.connections mediante la API AlterConfig de Kafka o la herramienta kafka-configs.sh. Es importante tener en cuenta que aumentar cualquiera de las propiedades a un valor alto puede provocar la falta de disponibilidad.
Tasa máxima de conexiones TCP por agente (IAM) 100 por segundo (tamaños de instancia M5 y M7g); 4 por segundo (tamaño de instancia t3) Para gestionar los reintentos en caso de conexiones fallidas, puede configurar el parámetro de configuración reconnect.backoff.ms en el lado del cliente. Por ejemplo, si desea que un cliente reintente las conexiones después de 1 segundo, establezca reconnect.backoff.ms en 1000. Para obtener más información, consulte reconnect.backoff.ms en la documentación de Apache Kafka.
Máximo de conexiones TCP por agente (sin IAM) N/A MSK no aplica límites de conexión para la autenticación sin IAM. Debe supervisar otras métricas, como el uso de CPU y memoria, para asegurarse de no sobrecargar el clúster debido a un número excesivo de conexiones.
Configuraciones por cuenta de 100 Para solicitar una cuota más alta, vaya a la consola de Service Quotas.

Para actualizar la configuración o la versión de Apache Kafka de un clúster de MSK, primero asegúrese de que el número de particiones por agente esté por debajo de los límites descritos en Dimensione correctamente el clúster: número de particiones por agente Standard.

Revisiones de configuración por cuenta 50

Cuota de agentes Express de Amazon MSK

La siguiente tabla describe las cuotas para agentes Express.

Dimensión Cuota Notas
Agentes por cuenta 90 Para solicitar una cuota más alta, vaya a la consola de Service Quotas.
Agentes por clúster 30 Para solicitar una cuota más alta, vaya a la consola de Service Quotas.
Almacenamiento máximo Sin límite
Máximo de conexiones TCP por agente (control de acceso de IAM) 3 000

Para aumentar el límite de conexiones, ajuste una de las siguientes propiedades de configuración mediante la API AlterConfig de Kafka o la herramienta kafka-configs.sh:

  • listener.name.client_iam.max.connections

  • listener.name.client_iam_public.max.connections

Establecer estos valores en un nivel alto puede provocar la indisponibilidad del clúster.

Tasa máxima de conexiones TCP por agente (IAM) 100 por segundo Para gestionar los reintentos en caso de conexiones fallidas, puede configurar el parámetro de configuración reconnect.backoff.ms en el lado del cliente. Por ejemplo, si desea que un cliente reintente las conexiones después de 1 segundo, establezca reconnect.backoff.ms en 1000. Para obtener más información, consulte reconnect.backoff.ms en la documentación de Apache Kafka.
Máximo de conexiones TCP por agente (sin IAM) N/A MSK no aplica límites de conexión para la autenticación sin IAM. No obstante, debe supervisar otras métricas, como el uso de CPU y memoria, para asegurarse de no sobrecargar el clúster debido a un número excesivo de conexiones.
Configuraciones por cuenta de 100 Para solicitar una cuota más alta, vaya a la consola de Service Quotas. Para actualizar la configuración o la versión de Apache Kafka de un clúster de MSK, primero asegúrese de que el número de particiones por agente esté por debajo de los límites descritos en Dimensione correctamente el clúster: número de particiones por agente Express.
Revisiones de configuración por cuenta 50
Ingreso máximo por agente Recomendado: 15,6 - 500,0 MBps Según el tamaño de la instancia
Salida máxima por agente Recomendado: 31,2 - 1000,0 MBps Según el tamaño de la instancia

Límites de limitación controlada del rendimiento de agentes Express según el tamaño del agente

En la siguiente tabla, se enumeran los límites de limitación controlada del rendimiento recomendados y máximos relacionados con el ingreso y la salida para distintos tamaños de agente. En esta tabla, el rendimiento recomendado se representa como Rendimiento sostenido, que es el umbral hasta el cual las aplicaciones no experimentarán degradación del rendimiento. Si opera más allá de estos límites en cualquiera de las dos dimensiones, puede obtener mayor rendimiento, pero también podría experimentar degradación del rendimiento. La cuota máxima es el umbral a partir del cual el clúster aplicará limitación controlada al tráfico de lectura y escritura. Las aplicaciones no podrán operar más allá de este umbral.

Tamaño de instancia Rendimiento sostenido (MBps) para ingreso Cuota máxima (MBps) para ingreso Rendimiento sostenido (MBps) para salida Cuota máxima (MBps) para salida
express.m7g.large 15,6 23,4 31,2 58,5
express.m7g.xlarge 31,2 46.8 62,5 117
express.m7g.2xlarge 62,5 93,7 125 234,2
express.m7g.4xlarge 124,9 187,5 249,8 468,7
express.m7g.8xlarge 250 375 500 937,5
express.m7g.12xlarge 375 562,5 750 1406,2
express.m7g.16xlarge 500 750 1 000 1875

Cuota de particiones de agentes Express

La siguiente tabla muestra el número recomendado de particiones (incluidas las réplicas líder y seguidora) para cada agente Express. No puede superar el número máximo de particiones indicado en la siguiente tabla para cada agente Express.

Para obtener información sobre las prácticas recomendadas que se deben tener en cuenta al asignar particiones a los agentes Express, consulte Dimensione correctamente el clúster: número de particiones por agente Express.

Tamaño del agente Número recomendado de particiones (incluidas las réplicas de seguidor y líder) por agente Número máximo de particiones por agente

express.m7g.large

1 000 1500

express.m7g.xlarge

1 000 2000

express.m7g.2xlarge

2500 4000

express.m7g.4xlarge

6000 8000

express.m7g.8xlarge

12000 16 000

express.m7g.12xlarge

16 000 24000

express.m7g.16xlarge

20000 32000

Cuotas del Replicador MSK

  • Un máximo de 15 replicadores de MSK por cuenta.

  • El Replicador MSK solo replica hasta 750 temas en orden. Si necesita replicar más temas, le recomendamos que cree un Replicador independiente. Si necesita ayuda para más de 750 temas por Replicador, vaya a la consola de Service Quotas. Puede supervisar la cantidad de temas que se replican mediante la métrica “TopicCount”.

  • Un rendimiento de entrada máximo de 1 GB por segundo por Replicador MSK. Solicite una cuota más alta desde la consola de Service Quotas.

  • Tamaño de registro del Replicador MSK: un tamaño de registro máximo de 10 MB (message.max.bytes). Solicite una cuota más alta desde la consola de Service Quotas.

Cuota de MSK sin servidor

Las cuotas especificadas en la siguiente tabla se aplican por clúster, salvo que se indique lo contrario.

nota

Si tiene algún problema con los límites de las cuotas de servicio, cree un caso de soporte e incluya su caso de uso y el límite solicitado.

Dimensión Cuota Resultado de infracción de cuota

Rendimiento máximo de entrada

200 MBps

Ralentización con la duración del acelerador en respuesta

Rendimiento máximo de salida 400 MBps

Ralentización con la duración del acelerador en respuesta

Duración máxima de retención Sin límite N/A

Número máximo de conexiones de cliente

3 000 Cierre de conexión
Número máximo de intentos de conexión 100 por segundo Cierre de conexión

Tamaño máximo de mensaje

8 MiB La solicitud falla con el ErrorCode: INVALID_REQUEST
Tasa máxima de solicitud 15 000 por segundo Ralentización con la duración del acelerador en respuesta

Tasa máxima de solicitudes a las API de administración de temas

2 por segundo Ralentización con la duración del acelerador en respuesta

Número máximo de bytes de recuperación por solicitud

55 MB

La solicitud falla con el ErrorCode: INVALID_REQUEST

Número máximo de grupos de consumidores

500 Error en la solicitud de JoinGroup
Número máximo de particiones (principales) 2400 para temas no compactados. 120 para temas compactados. Para solicitar un ajuste de la cuota de servicio, cree un caso de soporte e incluya su caso de uso y el límite solicitado. La solicitud falla con el ErrorCode: INVALID_REQUEST
Velocidad máxima de creación y eliminación de particiones 250 en 5 minutos La solicitud falla con el ErrorCode: THROUGHPUT_QUOTA_EXCEEDED

Rendimiento máximo de entrada por partición

5 MBps Ralentización con la duración del acelerador en respuesta

Rendimiento máximo de salida por partición

10 MBps Ralentización con la duración del acelerador en respuesta

Tamaño máximo de partición (para temas compactados)

250 GB La solicitud falla con el ErrorCode: THROUGHPUT_QUOTA_EXCEEDED
Número máximo de VPC de cliente por clúster sin servidor 5
Número máximo de clústeres sin servidor por cuenta 10. Para solicitar un ajuste de la cuota de servicio, cree un caso de soporte e incluya su caso de uso y el límite solicitado.

Cuota de MSK Connect

  • Hasta 100 complementos personalizados.

  • Configuraciones de hasta 100 procesos de trabajo.

  • Hasta 60 procesos de trabajo conectados. Si un conector está configurado para que tenga una capacidad que se escale automáticamente, el número máximo de procesos de trabajo que puede tener el conector es el número que MSK Connect utiliza para calcular la cuota de la cuenta.

  • Hasta 10 procesos de trabajo por conector.

Para solicitar una cuota más alta para MSK Connect, vaya a la consola de Service Quotas.