测试部署

您可以通过调用终端节点或通过 Amazon C SageMaker anvas 应用程序发出单个预测请求来测试模型部署。在生产环境中以编程方式调用端点之前，您可以使用此功能确认端点是否响应请求。

测试自定义模型部署

您可以通过 ML Ops 页面访问自定义模型部署，然后进行单次调用，以测试此模型部署。

注意

执行长度是调用 Canvas 中的端点并从端点获取响应所需的估计时间。有关详细的延迟指标，请参阅 SageMaker AI 终端节点调用指标。

要通过 Canvas 应用程序测试您的端点，请执行以下操作：

1. 打开 SageMaker 画布应用程序。

2. 在左侧导航窗格中，选择 ML Ops。

3. 选择部署选项卡。

4. 从部署列表中，选择带有要调用的端点的部署。

5. 在部署的详细信息页面上，选择测试部署选项卡。

6. 在部署测试页面上，您可以修改值字段以指定新的数据点。对于时间序列预测模型，您需要指定要进行预测的项目 ID。

7. 修改值后，选择更新以获取预测结果。

此时将加载预测，同时加载的还有调用结果字段，这些字段指示调用是否成功以及处理请求所需的时间。

以下屏幕截图显示了在 Canvas 应用程序的测试部署选项卡上执行的预测。

对于除数值预测和时间序列预测外的所有模型类型，预测都会返回以下字段：

• predicted_label – 预测的输出

• probability – 预测的标签正确的概率

• labels – 所有可能的标签的列表

• probabilities – 每个标签对应的概率（该列表的顺序与标签的顺序一致）

对于数值预测模型，预测结果只包含分数字段，即模型的预测输出，如预测的房屋价格。

对于时间序列预测模型而言，预测结果是按分位数显示预测结果的图表。您可以选择架构视图来查看每个分位数的预测数值。

您可以继续通过部署测试页面进行单一预测，也可以查看以下调用端点部分，了解如何从应用程序中以编程方式调用端点。

测试 JumpStart 基础模型部署

您可以通过 Canvas 应用程序与已部署 JumpStart 的基础模型交谈，以测试其功能，然后再通过代码调用该模型。

要与已部署 JumpStart 的基础模型交谈，请执行以下操作：

1. 打开 SageMaker 画布应用程序。

2. 在左侧导航窗格中，选择 ML Ops。

3. 选择部署选项卡。

4. 从部署列表中找到要调用的部署，然后选择其更多选项图标 ( )。

5. 从上下文菜单中，选择测试部署。

6. JumpStart 基础模型将打开一个新的 “生成、提取和汇总内容” 聊天，你可以开始键入提示了。请注意，此聊天中的提示将作为请求发送到您的 SageMaker AI Hosting 终端节点。