Opciones de implementación para productos de agentes de IA

AWS Marketplace admite múltiples opciones de despliegue para los agentes de IA, lo que le permite elegir el enfoque que mejor se adapte a su arquitectura y a las necesidades del cliente:

• Opción de despliegue de API: la opción de despliegue de API permite a los clientes acceder a su agente de IA a través de puntos de conexión alojados por el proveedor. Esta opción es ideal para agentes y herramientas de agentes que requieren una infraestructura especializada o modelos propietarios que desee conservar en su propio entorno.

• Despliegue de contenedores: Package su agente de IA y sus herramientas de agente como aplicaciones en contenedores que los clientes puedan ejecutar en sus propios entornos. AWS Esta opción proporciona a los clientes un mayor control sobre sus datos e infraestructura.

Detalles del despliegue de la API

Con el despliegue de la API, usted aloja y mantiene el agente o la herramienta de IA en su propio entorno, exponiendo la funcionalidad a través de puntos finales de API bien definidos. Este método de despliegue admite dos patrones de integración que determinan el método de lanzamiento para los clientes: el lanzamiento rápido, en el que los vendedores se integran con el servicio de AWS Marketplace despliegue y proporcionan las claves de API directamente a las AWS cuentas de los clientes al suscribirse, y el redireccionamiento regular, en el que se redirige a los clientes al sitio web del vendedor para obtener las claves de API o las instrucciones de OAuth uso. Este enfoque ofrece varias ventajas, entre las que se incluyen las siguientes:

• Proteja los modelos y algoritmos patentados

• Actualizaciones y mejoras centralizadas

• Rendimiento uniforme en todos los clientes

• Incorporación simplificada de clientes

Cuando publiques un agente implementado mediante una API, tendrás que proporcionar una documentación completa sobre la API, instrucciones de uso detalladas, métodos de autenticación y especificaciones de los terminales para garantizar que los clientes puedan integrarse correctamente con tu servicio.

Detalles sobre el despliegue de contenedores

La implementación de contenedores empaqueta su agente o herramienta de IA como una aplicación contenerizada que los clientes pueden ejecutar en sus propios AWS entornos. Este enfoque ofrece las siguientes ventajas:

• Los datos permanecen en el entorno del cliente

• Configuraciones de implementación personalizables

• Integración con la infraestructura existente del cliente

• Support para entornos aislados o de alta seguridad

Al publicar un agente en un contenedor, proporcione instrucciones de implementación claras, los requisitos de recursos y las opciones de configuración para garantizar una implementación exitosa para el cliente.

Elegir la opción de implementación correcta

Al seleccionar una opción de despliegue para su agente o herramienta de IA, tenga en cuenta los siguientes factores:

• Sensibilidad de los datos: si sus clientes trabajan con datos muy confidenciales que no pueden salir de su entorno, la implementación en contenedores puede ser la mejor opción.

• Complejidad del modelo: en el caso de modelos grandes o complejos que requieren hardware especializado, la implementación de la API puede resultar más práctica.

• Gastos operativos: tenga en cuenta los recursos necesarios para mantener y actualizar la solución en los diferentes modelos de implementación.