Conector de recepción de Amazon S3

En este ejemplo se muestra cómo utilizar el conector colector Amazon S3 de Confluent y cómo AWS CLI crear un conector colector Amazon S3 en MSK Connect.

1. Copie lo siguiente JSON y péguelo en un archivo nuevo. Sustituya las cadenas de marcador de posición por valores que correspondan a la cadena de conexión de los servidores bootstrap de su MSK clúster de Amazon y a la subred y al grupo de seguridad del clúster. IDs Para obtener más información sobre cómo configurar un rol de ejecución del servicio, consulte Políticas y roles de IAM para MSK Connect.

   {
       "connectorConfiguration": {
           "connector.class": "io.confluent.connect.s3.S3SinkConnector",
           "s3.region": "us-east-1",
           "format.class": "io.confluent.connect.s3.format.json.JsonFormat",
           "flush.size": "1",
           "schema.compatibility": "NONE",
           "topics": "my-test-topic",
           "tasks.max": "2",
           "partitioner.class": "io.confluent.connect.storage.partitioner.DefaultPartitioner",
           "storage.class": "io.confluent.connect.s3.storage.S3Storage",
           "s3.bucket.name": "my-test-bucket"
       },
       "connectorName": "example-S3-sink-connector",
       "kafkaCluster": {
           "apacheKafkaCluster": {
               "bootstrapServers": "<cluster-bootstrap-servers-string>",
               "vpc": {
                   "subnets": [
                       "<cluster-subnet-1>",
                       "<cluster-subnet-2>",
                       "<cluster-subnet-3>"
                   ],
                   "securityGroups": ["<cluster-security-group-id>"]
               }
           }
       },
       "capacity": {
           "provisionedCapacity": {
               "mcuCount": 2,
               "workerCount": 4
           }
       },
       "kafkaConnectVersion": "2.7.1",
       "serviceExecutionRoleArn": "<arn-of-a-role-that-msk-connect-can-assume>",
       "plugins": [
           {
               "customPlugin": {
                   "customPluginArn": "<arn-of-custom-plugin-that-contains-connector-code>",
                   "revision": 1
               }
           }
       ],
       "kafkaClusterEncryptionInTransit": {"encryptionType": "PLAINTEXT"},
       "kafkaClusterClientAuthentication": {"authenticationType": "NONE"}
   }

2. Ejecuta el siguiente AWS CLI comando en la carpeta en la que guardaste el JSON archivo en el paso anterior.

   aws kafkaconnect create-connector --cli-input-json file://connector-info.json

   El siguiente es un ejemplo del resultado que se obtiene al ejecutar el comando correctamente.

   {
       "ConnectorArn": "arn:aws:kafkaconnect:us-east-1:123450006789:connector/example-S3-sink-connector/abc12345-abcd-4444-a8b9-123456f513ed-2", 
       "ConnectorState": "CREATING", 
       "ConnectorName": "example-S3-sink-connector"
   }