在 Amazon Bedrock 中优化和迁移提示

Amazon Bedrock 提供即时优化，这是一款模型迁移和优化工具，可帮助您从基础模型中获得最佳性能。Amazon Bedrock 提供了两个即时优化选项。

• 简单优化对一个模型的单个简短提示进行快速、启发式重写。

• 高级提示优化 (AdvPO) 允许您在 Bedrock 上优化任何型号的提示，同时将原始提示与最多 5 个模型的优化提示进行比较。

  如果您要迁移到新模型或只是想在当前模型上获得更好的性能，则可以使用此功能。如果您要更改模型，请选择当前模型作为基准，并选择最多 4 个其他模型。如果您不想更改模型，只需选择当前模型即可查看优化前后。优化器使用您的提示模板（每个作业最多 10 个）和变量值的用户输入示例（每个提示模板最多 100 个）。它还需要真实答案和评估指标来指导优化。它甚至兼容多模态输入，例如 JPG、JPEG、PNG、GIF、WebP 或 PDF。您可以提供评分量 LLM-as-a-judge 规、Lambda 函数或简短的自然语言指导标准。评估引导即时优化。优化器在基于评估的反馈循环中工作，以优化提示和生成的模型响应。它输出原始和最终提示模板，包括评估分数、成本估算和延迟。

选择优化方法

	简单优化	高级提示优化
使用案例	简短提示的基本单提示重写	灵活的迭代优化，您的评估会引导快速重写，以进行模型迁移和性能调整
适用于	简短提示（大约 1k 个代币或更少）	适合模型上下文窗口的任意长度的提示模板
输入	单一提示文本	多达 10 个带有评估样本的提示模板，包括多模态
模型	1 个模型	最多可同时对比 5 个型号
评估	无（启发式重写）	您可以选择：指导标准、评分量 LLM-as-judge 规或自定义 Lambda 函数
输出	重写的提示（即时）	优化了模板，包括每个模型的评估分数、成本估算和延迟
Execution	同步（秒）	异步作业（15 分钟到几小时，具体取决于提示模板和评估样本的数量）
多模态	否	是（图片、PDF）
模型迁移	部分：可以重写提示，但不能并排比较	是的，将当前模型与候选模型并排比较