AI 代理器產品的部署選項

AWS Marketplace 支援 AI 代理器的多個部署選項，可讓您選擇最適合您的架構和客戶需求的方法：

• API 部署選項 – API 部署選項可讓客戶透過廠商託管的端點存取您的 AI 代理程式。此選項非常適合需要特殊基礎設施或專屬模型的代理程式和代理程式工具，而您想要保留在您自己的環境中。

• 容器部署 – 將您的 AI 代理程式和代理程式工具封裝為容器化應用程式，客戶可以在自己的 AWS 環境中執行。此選項可讓客戶更好地控制其資料和基礎設施。

API 部署詳細資訊

透過 API 部署，您可以在自己的環境中託管和維護 AI 代理程式或工具，透過定義良好的 API 端點公開功能。此部署方法支援兩種決定客戶啟動方法的整合模式：快速啟動，其中賣方與 AWS Marketplace 部署服務整合，並在訂閱時將 API 金鑰直接提供給客戶 AWS 帳戶；以及定期重新導向，其中客戶會重新導向至賣方網站以取得 API 金鑰或 OAuth 使用說明。此方法提供數種優點，包括下列項目：

• 保護專屬模型和演算法

• 集中式更新和改進

• 所有客戶的一致效能

• 簡化客戶加入

列出 API 部署的代理程式時，您需要提供完整的 API 文件、詳細的使用說明、身分驗證方法和端點規格，以確保客戶可以成功與您的服務整合。

容器部署詳細資訊

容器部署將您的 AI 代理程式或工具封裝為容器化應用程式，客戶可以在自己的 AWS 環境中執行。此方法提供下列優點：

• 資料會保留在客戶的環境中

• 可自訂的部署組態

• 與客戶現有基礎設施整合

• 支援氣隙隔離或高安全性環境

列出容器化代理程式時，請提供明確的部署指示、資源需求和組態選項，以確保客戶成功實作。

選擇正確的部署選項

選擇 AI 代理器或工具的部署選項時，請考慮下列因素：

• 資料敏感 – 如果您的客戶使用無法離開環境的高度敏感資料，容器部署可能是最佳選項。

• 模型複雜性 – 對於需要專用硬體的大型或複雜模型，API 部署可能更實際。

• 營運開銷 – 考慮在不同部署模型中維護和更新解決方案所需的資源。