使用基础模型

必须先请求访问模型，然后才能使用它。完成此操作后，您可以通过以下方式使用 FM。

• 通过向模型发送提示并生成响应来@@ 运行推理。Playgroun ds 中提供了一个用户友好的界面， AWS Management Console 用于生成文本、图像或聊天。请参阅 “输出模态” 列，确定可以在每个游乐场中使用的模型。

  注意

  主机游戏场不支持在嵌入模型上运行推理。使用 API 对嵌入模型进行推理。

• 评估模型以比较输出并确定最适合您的用例的模型。

• 借助嵌入模型@@ 建立知识库。然后使用文本模型生成对查询的响应。

• 创建代理并使用模型对提示进行推理以进行编排。

• 通过@@ 提供训练和验证数据来自定义模型，以根据您的用例调整模型参数。要使用自定义模型，必须为其购买预置吞吐量。

• 为模型@@ 购买预置吞吐量以增加其吞吐量。

要在 API 中使用 FM，您需要确定要使用的相应型号 ID。

应用场景	如何找到模型 ID
使用基础模型	在基本型号 ID 图表中查找 ID
为基本型号购买预置吞吐量	在预配置吞吐量的模型 ID 图表中查找 ID，然后将其用作CreateProvisionedModelThroughput请求modelId中的。
为自定义模型购买预置吞吐量	在请求中使用定制模型或其 ARN modelId 的CreateProvisionedModelThroughput名称。
使用预配置模型	创建预配置吞吐量后，它将返回。provisionedModelArn此 ARN 是模型编号。
使用自定义模型	为自定义模型@@ 购买预置吞吐量，并使用返回的provisionedModelArn作为模型 ID。