本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
您可以通过调用终端节点或通过 Amazon C SageMaker anvas 应用程序发出单个预测请求来测试模型部署。在生产环境中以编程方式调用端点之前,您可以使用此功能确认端点是否响应请求。
测试自定义模型部署
您可以通过 ML Ops 页面访问自定义模型部署,然后进行单次调用,以测试此模型部署。
注意
执行长度是调用 Canvas 中的端点并从端点获取响应所需的估计时间。有关详细的延迟指标,请参阅 SageMaker AI 终端节点调用指标。
要通过 Canvas 应用程序测试您的端点,请执行以下操作:
-
打开 SageMaker 画布应用程序。
-
在左侧导航窗格中,选择 ML Ops。
-
选择部署选项卡。
-
从部署列表中,选择带有要调用的端点的部署。
-
在部署的详细信息页面上,选择测试部署选项卡。
-
在部署测试页面上,您可以修改值字段以指定新的数据点。对于时间序列预测模型,您需要指定要进行预测的项目 ID。
-
修改值后,选择更新以获取预测结果。
此时将加载预测,同时加载的还有调用结果字段,这些字段指示调用是否成功以及处理请求所需的时间。
以下屏幕截图显示了在 Canvas 应用程序的测试部署选项卡上执行的预测。

对于除数值预测和时间序列预测外的所有模型类型,预测都会返回以下字段:
-
predicted_label – 预测的输出
-
probability – 预测的标签正确的概率
-
labels – 所有可能的标签的列表
-
probabilities – 每个标签对应的概率(该列表的顺序与标签的顺序一致)
对于数值预测模型,预测结果只包含分数字段,即模型的预测输出,如预测的房屋价格。
对于时间序列预测模型而言,预测结果是按分位数显示预测结果的图表。您可以选择架构视图来查看每个分位数的预测数值。
您可以继续通过部署测试页面进行单一预测,也可以查看以下调用端点部分,了解如何从应用程序中以编程方式调用端点。
测试 JumpStart 基础模型部署
您可以通过 Canvas 应用程序与已部署 JumpStart 的基础模型交谈,以测试其功能,然后再通过代码调用该模型。
要与已部署 JumpStart 的基础模型交谈,请执行以下操作:
-
打开 SageMaker 画布应用程序。
-
在左侧导航窗格中,选择 ML Ops。
-
选择部署选项卡。
-
从部署列表中找到要调用的部署,然后选择其更多选项图标 (
)。
-
从上下文菜单中,选择测试部署。
-
JumpStart 基础模型将打开一个新的 “生成、提取和汇总内容” 聊天,你可以开始键入提示了。请注意,此聊天中的提示将作为请求发送到您的 SageMaker AI Hosting 终端节点。