调用异步端点 - Amazon SageMaker

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

调用异步端点

使用 InvokeEndpointAsync,从托管在异步端点上的模型获取推理。

注意

如果您还没有上传推理数据(例如机器学习模型、示例数据),请将数据上传到 Amazon S3。

在您的请求中指定以下字段:

  • 对于 InputLocation,请指定推理数据的位置。

  • 对于 EndpointName,请指定端点的名称。

  • (可选)对于 InvocationTimeoutSeconds,您可以设置请求的最大超时时间。您可以分别为每个请求设置此值,最大为 3600 秒(1 小时)。如果您未在请求中指定此字段,则默认情况下,请求超时时间为 15 分钟。

# Create a low-level client representing Amazon SageMaker Runtime sagemaker_runtime = boto3.client("sagemaker-runtime", region_name=<aws_region>) # Specify the location of the input. Here, a single SVM sample input_location = "s3://bucket-name/test_point_0.libsvm" # The name of the endpoint. The name must be unique within an AWS Region in your AWS account. endpoint_name='<endpoint-name>' # After you deploy a model into production using SageMaker hosting # services, your client applications use this API to get inferences # from the model hosted at the specified endpoint. response = sagemaker_runtime.invoke_endpoint_async( EndpointName=endpoint_name, InputLocation=input_location, InvocationTimeoutSeconds=3600)

您会收到一个JSON字符串形式的响应,其中包含您的请求编号和 Amazon S3 存储桶的名称,该存储桶将在处理后对API调用的响应。