在 AWS Clean Rooms ML 中对经过训练的模型运行推理

能够运行查询的成员也可以在训练作业完成后启动推理作业。他们选择要对其进行推理的推理数据集，并引用他们想要用来运行推理容器的训练模型输出。

必须向将接收推理输出的成员授予成员能力CAN_RECEIVE_INFERENCE_OUTPUT。

Console

创建模型推理作业（控制台）

1. 登录 AWS Management Console 并在 https://console.aws.amazon.com/clean room AWS Clean Rooms s 上打开控制台。

2. 在左侧导航窗格中，选择协作。

3. 在协作页面上，选择包含要创建推理作业的自定义模型的协作。

4. 协作打开后，选择 “机器学习模型” 选项卡，然后从 “自定义训练模型” 表中选择您的模型。

5. 在自定义训练模型详情页面上，单击启动推理作业。

6. 对于启动推理作业，在推理作业的详细信息中，输入名称和可选的描述。

   输入以下信息：

   • 关联模型算法-推理作业期间使用的关联模型算法。

   • ML 输入通道详情-将为该推理作业提供数据的 ML 输入通道。

   • 转换资源-用于执行推理作业转换功能的计算实例。

   • 输出配置-谁将接收推理作业输出以及输出的 MIME 类型。

   • 加密-选择自定义加密设置以指定您自己的 KMS 密钥和相关信息。否则，Clean Rooms ML 将管理加密。

   • 转换作业详细信息-推理作业的最大有效负载，以 MB 为单位。

   • 环境变量-访问推理作业容器镜像所需的任何环境变量。

7. 选择启动推理作业。

   结果将导出到机器学习配置中指定的 Amazon S3 位置的以下路径：yourSpecifiedS3Path/collaborationIdentifier/trainedModelName/callerAccountId/jobName。

API

创建模型推理作业 (API)

通过运行以下代码启动推理作业：

import boto3 
acr_ml_client= boto3.client('cleanroomsml')

acr_ml_client.start_trained_model_inference_job(
    name="inference_job",
    membershipIdentifier='membership_id',
    trainedModelArn='arn:aws:cleanrooms-ml:region:account:membership/membershipIdentifier/trained-model/identifier', 
    
    dataSource={
        "mlInputChannelArn": 'channel_arn_3'
    },
    resourceConfig={'instanceType': 'ml.m5.xlarge'},
    outputConfiguration={
        'accept': 'text/csv',
        'members': [
            {
                "accountId": 'member_account_id'
            }
        ]
    }
)

结果将导出到机器学习配置中指定的 Amazon S3 位置的以下路径：yourSpecifiedS3Path/collaborationIdentifier/trainedModelName/callerAccountId/jobName。