关键定义

本章提供了概念的定义，这些概念将帮助您理解 Amazon Bedrock 提供的内容及其工作原理。如果您是初次使用者，则应先通读基本概念。在您熟悉了 Amazon Bedrock 的基础知识后，我们建议您探索亚马逊 Bedrock 提供的高级概念和功能。

基本概念

以下列表向您介绍了生成式人工智能的基本概念和 Amazon Bedrock 的基本功能。

• 基础模型 (FM) — 一种具有大量参数并基于大量不同数据训练的人工智能模型。基础模型可以为各种用例生成各种响应。基础模型可以生成文本或图像，也可以将输入转换为嵌入式。在使用 Amazon Bedrock 基础模型之前，您必须先申请访问权限。有关基础模型的更多信息，请参阅Amazon Bedrock 中支持的根基模型。

• 基础模型 — 由提供商打包并随时可用的基础模型。Amazon Bedrock 提供来自领先供应商的各种行业领先的基础模型。有关更多信息，请参阅Amazon Bedrock 中支持的根基模型。

• 模型推断 — 基础模型根据给定输入（提示）生成输出（响应）的过程。有关更多信息，请参阅运行模型推理。

• P@@ ro mpt — 为模型提供的输入，用于指导模型为输入生成适当的响应或输出。例如，文本提示可以由一行组成，供模型响应，也可以详细说明模型要执行的说明或任务。提示可以包含任务的上下文、输出示例或模型在响应中使用的文本。提示可用于执行诸如分类、问题解答、代码生成、创意写作等任务。有关更多信息，请参阅 提示工程准则。

• Token — 模型可以将其解释或预测为单一含义单位的字符序列。例如，在文本模型中，标记不仅可以对应于单词，还可以对应于具有语法含义的单词的一部分（例如 “-ed”）、标点符号（例如 “？”） ，或者一个常用短语（例如 “很多”）。

• 模型参数-定义模型及其在解释输入和生成响应时的行为的值。模型参数由提供者控制和更新。您还可以通过模型自定义过程更新模型参数以创建新模型。

• 推理参数-在模型推理期间可以调整以影响响应的值。推理参数可以影响响应的变化程度，也可以限制响应的长度或指定序列的出现次数。有关特定推理参数的更多信息和定义，请参阅推理参数。

• P@@ l ayground — 一个用户友好的图形界面，您可以在其中尝试运行模型推理，以熟悉 Amazon Bedrock。 AWS Management Console 使用操场测试不同模型、配置和推理参数对您输入的不同提示生成的响应的影响。有关更多信息，请参阅操场。

• Embedding — 通过将输入转换为数值向量（称为嵌入）来压缩信息的过程，以便使用共享的数值表示来比较不同对象之间的相似性。例如，可以比较句子以确定含义的相似性，可以比较图像以确定视觉相似性，或者可以比较文本和图像以查看它们是否相关。如果文本和图像输入与您的用例相关，也可以将其组合成平均嵌入向量。有关更多信息，请参阅 运行模型推理 和 Amazon Bedrock 知识库。

高级功能

以下列表向您介绍了更多高级概念，您可以使用 Amazon Bedrock 探索这些概念。

• 编排 — 为执行任务而在基础模型与企业数据和应用程序之间进行协调的过程。有关更多信息，请参阅Agents for Amazon Bedrock。

• Agent — 一种通过周期性地解释输入和使用基础模型生成输出来执行协调的应用程序。代理可以用来执行客户的请求。有关更多信息，请参阅Agents for Amazon Bedrock。

• 检索增强生成 (RAG)-从数据源中查询和检索信息的过程，以增强对提示生成的响应。有关更多信息，请参阅Amazon Bedrock 知识库。

• 模型自定义-使用训练数据调整基础模型中的模型参数值以创建自定义模型的过程。模型定制的示例包括使用带标签的数据（输入和相应的输出）的微调和持续的预训练，后者使用未标记的数据（仅限输入）来调整模型参数。有关 Amazon Bedrock 中提供的模型自定义技术的更多信息，请参阅自定义模型。

• Hyperp arameters — 可以针对模型自定义进行调整的值，以控制训练过程，从而控制输出的自定义模型。有关特定超参数的更多信息和定义，请参见自定义模型超参数。

• 模型评估 — 评估和比较模型输出以确定最适合用例的模型的过程。有关更多信息，请参阅模型评估。

• 预配置吞吐量 — 您为基础模型或自定义模型购买的吞吐量级别，用于增加模型推理期间处理的代币数量和/或速率。当您为模型购买预配置吞吐量时，系统会创建一个可用于进行模型推断的预配置模型。有关更多信息，请参阅 Amazon Bedrock 的预配置吞吐量。