AI 代理产品的部署选项

AWS Marketplace 支持 AI 代理的多种部署选项，允许您选择最适合您的架构和客户需求的方法：

• API 部署选项 — API 部署选项允许客户通过供应商托管的终端节点访问您的 AI 代理。此选项非常适合需要在自己的环境中保留的专用基础架构或专有模型的代理和代理工具。

• 容器部署 — 将您的 AI 代理和代理工具打包为容器化应用程序，供客户在自己的环境中运行。 AWS 此选项使客户能够更好地控制其数据和基础架构。

API 部署详情

通过 API 部署，您可以在自己的环境中托管和维护 AI 代理或工具，通过定义明确的 API 端点公开功能。此部署方法支持两种决定客户启动方法的集成模式：Quick Launch，即卖家与 AWS Marketplace 部署服务集成，并在订阅后直接向客户的 AWS 账户提供 API 密钥；以及常规重定向，即客户被重定向到卖家网站以获取 API 密钥或 OAuth 使用说明。这种方法有几个优点，包括以下几点：

• 保护专有模型和算法

• 集中更新和改进

• 为所有客户提供一致的绩效

• 简化了客户入职流程

在列出 API 部署的代理时，您需要提供全面的 API 文档、详细的使用说明、身份验证方法和端点规范，以确保客户能够成功地与您的服务集成。

容器部署详情

容器部署将您的 AI 代理或工具打包为容器化应用程序，客户可以在自己的 AWS 环境中运行该应用程序。这种方法具有以下好处：

• 数据保留在客户的环境中

• 可自定义的部署配置

• 与客户现有基础设施集成

• Support 支持气隙不足或高安全性的环境

列出容器化代理时，请提供明确的部署说明、资源要求和配置选项，以确保客户成功实施。

选择正确的部署选项

为 AI 代理或工具选择部署选项时，请考虑以下因素：

• 数据敏感性 — 如果您的客户处理的是无法离开其环境的高度敏感数据，则容器部署可能是最佳选择。

• 模型复杂性-对于需要专用硬件的大型或复杂模型，API 部署可能更实用。

• 运营开销 — 考虑跨不同部署模式维护和更新解决方案所需的资源。