IA generativa para la SRA de AWS

En esta sección se proporcionan recomendaciones actuales para utilizar la IA generativa de forma segura a fin de mejorar la productividad y la eficiencia de los usuarios y las organizaciones. Se centra en el uso de Amazon Bedrock y se basa en el conjunto integral de directrices de la SRA de AWS para implementar todos los servicios de seguridad de AWS en un entorno de varias cuentas. Esta guía se basa en la SRA para habilitar las capacidades de IA generativa dentro de un marco seguro y de nivel empresarial. Abarca los controles de seguridad clave, como los permisos de IAM, la protección de datos, la validación de entrada/salida, el aislamiento de la red, el registro y la supervisión, que son específicos de las capacidades de IA generativa de Amazon Bedrock.

El público objetivo de esta guía son los profesionales de la seguridad, los arquitectos y los desarrolladores responsables de integrar de forma segura las capacidades de IA generativa en sus organizaciones y aplicaciones. 

La SRA analiza las consideraciones de seguridad y las mejores prácticas para estas capacidades de IA generativa de Amazon Bedrock: 

• Capacidad 1. Proporcionar a los desarrolladores y científicos de datos un acceso seguro a los modelos fundamentales y su uso (inferencia de modelos)

• Capacidad 2. Proporcionar acceso, uso e implementación seguros de las soluciones de recuperación y generación aumentada (RAG)

• Capacidad 3. Proporcionar acceso, uso e implementación seguros de agentes de IA generativa autónomos

• Capacidad 4. Proporcionar acceso, uso e implementación seguros de la personalización del modelo

La guía también explica cómo integrar la funcionalidad de IA generativa de Amazon Bedrock en las cargas de trabajo tradicionales de AWS en función de su caso de uso. 

En las siguientes secciones de esta guía se amplía cada una de estas cuatro capacidades, se analiza la razón de ser de la capacidad y su uso, se abordan las consideraciones de seguridad relacionadas con la capacidad y se explica cómo puede utilizar los servicios y las características de AWS para abordar las consideraciones de seguridad (solución). La razón, las consideraciones de seguridad y las soluciones que se derivan del uso de modelos básicos (capacidad 1) se aplican a todas las demás capacidades, ya que todas utilizan la inferencia de modelos. Por ejemplo, si su aplicación empresarial utiliza un modelo Amazon Bedrock personalizado con capacidad de generación aumentada de recuperación (RAG), debe tener en cuenta los motivos, las consideraciones de seguridad y las soluciones de las capacidades 1, 2 y 4.

La arquitectura que se ilustra en el siguiente diagrama es una extensión de la unidad organizativa AWS SRA Workloads descrita anteriormente en esta guía.

Hay una unidad organizativa específica dedicada a las aplicaciones que utilizan IA generativa. La OU consiste en una cuenta de aplicación en la que se aloja la aplicación de AWS tradicional que proporciona una funcionalidad empresarial específica. Esta aplicación de AWS utiliza las capacidades de IA generativa que proporciona Amazon Bedrock. Estas capacidades se ofrecen desde la cuenta Generative AI, que aloja Amazon Bedrock relevante y los servicios de AWS asociados. La agrupación de los servicios de AWS en función del tipo de aplicación ayuda a aplicar los controles de seguridad mediante políticas de control de servicios específicas de la OU y de las cuentas de AWS. Esto también facilita la implementación de un control de acceso sólido y de privilegios mínimos. Además de estas unidades organizativas y cuentas específicas, la arquitectura de referencia describe unidades organizativas y cuentas adicionales que proporcionan capacidades de seguridad fundamentales que se aplican a todos los tipos de aplicaciones. Las cuentas de administración de la organización, herramientas de seguridad, archivo de registros, red y servicios compartidos se describen en secciones anteriores de esta guía.

Consideraciones sobre el diseño

Puede desglosar aún más su cuenta de IA generativa en función del entorno del ciclo de vida del desarrollo del software (SDLC) (por ejemplo, desarrollo, prueba o producción) o por modelo o comunidad de usuarios.

• Separación de cuentas en función del entorno del SDLC: como práctica recomendada, separe los entornos del SDLC en unidades organizativas independientes. Esta separación garantiza el aislamiento y el control adecuados de cada entorno y soporte. Proporciona:

  • Acceso controlado. Se puede conceder acceso a diferentes equipos o personas a entornos específicos en función de sus funciones y responsabilidades. 

  • Aislamiento de recursos. Cada entorno puede tener sus propios recursos dedicados (como modelos o bases de conocimiento) sin interferir con otros entornos. 

  • Seguimiento de costos. Los costos asociados a cada entorno se pueden rastrear y monitorear por separado. 

  • Mitigación de riesgos. Los problemas o los experimentos en un entorno (por ejemplo, el desarrollo) no afectan a la estabilidad de otros entornos (por ejemplo, la producción). 

• Separación de cuentas según el modelo o la comunidad de usuarios: en la arquitectura actual, una cuenta proporciona acceso a varios modelos básicos (FM) para su inferencia a través de AWS Bedrock. Puede utilizar las funciones de IAM para proporcionar control de acceso a los FM previamente entrenados en función de las funciones y responsabilidades de los usuarios. (Para ver un ejemplo, consulte la documentación de Amazon Bedrock). Por el contrario, puede elegir separar sus cuentas de IA generativa en función del nivel de riesgo, el modelo o la comunidad de usuarios. Esto puede resultar beneficioso en determinadas situaciones: 

  • Niveles de riesgo de la comunidad de usuarios: si las diferentes comunidades de usuarios tienen diferentes niveles de riesgo o requisitos de acceso, tener cuentas separadas podría ayudar a aplicar los controles y filtros de acceso adecuados. 

  • Modelos personalizados: en el caso de los modelos que se personalizan con datos de los clientes, si se dispone de información exhaustiva sobre los datos de formación, contar con cuentas separadas podría proporcionar un mejor aislamiento y control. 

En función de estas consideraciones, puede evaluar los requisitos específicos, las necesidades de seguridad y las complejidades operativas asociadas a su caso de uso. Si el enfoque principal está en Amazon Bedrock y en los FM previamente entrenados, una cuenta única con funciones de IAM podría ser un enfoque viable. Sin embargo, si tiene requisitos específicos para la separación de modelos o comunidades de usuarios, o si planea trabajar con modelos basados en clientes, puede que necesite tener cuentas separadas. En última instancia, la decisión debe basarse en las necesidades y factores específicos de la aplicación, como la seguridad, la complejidad operativa y las consideraciones de costo.

Nota: Para simplificar los siguientes análisis y ejemplos, en esta guía se parte de una estrategia única de cuentas de IA generativa con funciones de IAM.

Amazon Bedrock

Amazon Bedrock es una forma sencilla de crear y escalar aplicaciones de IA generativa con modelos básicos (FM). Como servicio totalmente gestionado, ofrece una selección de máquinas virtuales de alto rendimiento de las principales empresas de IA, como AI21 Labs, Anthropic, Cohere, Meta, Stability AI y Amazon. También ofrece un amplio conjunto de capacidades necesarias para crear aplicaciones de IA generativas y simplifica el desarrollo a la vez que mantiene la privacidad y la seguridad. Los FM sirven como componentes básicos para desarrollar aplicaciones y soluciones de IA generativa. Al proporcionar acceso a Amazon Bedrock, los usuarios pueden interactuar directamente con estos FM a través de una interfaz fácil de usar o mediante la API de Amazon Bedrock. El objetivo de Amazon Bedrock es ofrecer opciones de modelos a través de una única API para una rápida experimentación, personalización e implementación en producción, al tiempo que permite el cambio rápido a diferentes modelos. Todo se basa en la elección del modelo.

Puede experimentar con modelos previamente entrenados, personalizar los modelos para sus casos de uso específicos e integrarlos en sus aplicaciones y flujos de trabajo. Esta interacción directa con los FM permite a las organizaciones crear prototipos e iterar rápidamente soluciones de IA generativa y aprovechar los últimos avances en el aprendizaje automático sin necesidad de disponer de amplios recursos o experiencia para entrenar modelos complejos desde cero. La consola Amazon Bedrock simplifica el proceso de acceso y uso de estas potentes capacidades generativas de IA.

Amazon Bedrock ofrece una variedad de funciones de seguridad para mejorar la privacidad y la seguridad de sus datos: 

• Todo el contenido de usuario que procesa Amazon Bedrock se aísla por usuario, se cifra en reposo y se almacena en la región de AWS en la que se utiliza Amazon Bedrock. El contenido en tránsito también se cifra mediante TLS 1.2 como mínimo. Para obtener más información sobre la protección de datos en Amazon Bedrock, consulte la documentación de Amazon Bedrock. 

• Amazon Bedrock no almacena ni registra las solicitudes ni las finalizaciones. Amazon Bedrock no utiliza sus instrucciones ni sus instrucciones para entrenar ningún modelo de AWS ni los distribuye a terceros.

• Al sintonizar una FM, los cambios utilizan una copia privada de ese modelo. Esto significa que tus datos no se comparten con los proveedores de modelos ni se utilizan para mejorar los modelos básicos. 

• Amazon Bedrock implementa mecanismos automatizados de detección de abusos para identificar posibles infracciones de la Política de IA responsable de AWS. Para obtener más información sobre la detección de abusos en Amazon Bedrock, consulte la documentación de Amazon Bedrock. 

• Amazon Bedrock cumple con los estándares de cumplimiento comunes, incluidos la Organización Internacional de Normalización (ISO), los Controles de Sistemas y Organizaciones (SOC), el Programa Federal de Gestión de Riesgos y Autorizaciones (FedRAMP) Moderate y el Nivel 2 de Cloud Security Alliance (CSA) Security Trust Assurance and Risk (STAR). Amazon Bedrock cumple con los requisitos de la Ley de Portabilidad y Responsabilidad de los Seguros de Salud (HIPAA) y puede utilizar este servicio de conformidad con el Reglamento General de Protección de Datos (GDPR). Para saber si un servicio de AWS está dentro del ámbito de programas de conformidad específicos, consulte Servicios de AWS en Alcance por programa de conformidad y elija el programa de conformidad que le interese. 

Para obtener más información, consulte el enfoque seguro de AWS para la IA generativa. 

Barandillas para Amazon Bedrock

Guardrails for Amazon Bedrock le permite implementar protecciones para sus aplicaciones de IA generativa en función de sus casos de uso y políticas de IA responsables. Una barrera de protección en Amazon Bedrock consta de filtros que puede configurar, temas que puede definir para bloquear y mensajes para enviar a los usuarios cuando el contenido está bloqueado o filtrado.

El filtrado de contenido depende de la clasificación de confianza de las entradas de los usuarios (validación de entradas) y las respuestas de FM (validación de salida) de los usuarios en seis categorías dañinas. Todas las declaraciones de entrada y salida se clasifican en uno de los cuatro niveles de confianza (ninguno, bajo, medio y alto) para cada categoría perjudicial. Para cada categoría, puede configurar la potencia de los filtros. La siguiente tabla muestra el grado de contenido que bloquea y permite cada intensidad de filtro.

Fuerza del filtro	Confianza en el contenido bloqueada	Confianza permitida en el contenido
Ninguna	Sin filtrado	Ninguno, bajo, medio, alto
Baja	Alta	Ninguno, bajo, medio
Medio	Alto, medio	Ninguna, baja
Alta	Alto, medio, bajo	Ninguna

Cuando esté listo para implementar su barandilla en producción, cree una versión de la misma e invoque la versión de la barandilla en su aplicación. Siga los pasos de la pestaña API de la sección Probar una barandilla de la documentación de Amazon Bedrock. 

Seguridad

De forma predeterminada, las barandillas se cifran con una clave administrada por AWS en AWS Key Management Services (AWS KMS). Para evitar que usuarios no autorizados accedan a las barandillas, lo que podría provocar cambios no deseados, le recomendamos que utilice una clave administrada por el cliente para cifrar las barandillas y restringir el acceso a las barandillas mediante permisos de IAM con privilegios mínimos.

Evaluación del modelo Amazon Bedrock

Amazon Bedrock admite trabajos de evaluación de modelos. Puede utilizar los resultados de un trabajo de evaluación de modelos para comparar los resultados del modelo y, a continuación, elegir el modelo que mejor se adapte a sus aplicaciones de IA generativa posterior.

Puede utilizar un trabajo de evaluación automática de modelos para evaluar el rendimiento de un modelo mediante un conjunto de datos de indicadores personalizado o un conjunto de datos integrado. Para obtener más información, consulte Creación de una evaluación automática de modelos y Uso de conjuntos de datos rápidos en trabajos de evaluación de modelos en la documentación de Amazon Bedrock.

Los trabajos de evaluación de modelos que utilizan trabajadores humanos incorporan la opinión humana de los empleados o de expertos en la materia al proceso de evaluación. 

Seguridad

La evaluación del modelo debe realizarse en un entorno de desarrollo. Para obtener recomendaciones sobre cómo organizar sus entornos que no son de producción, consulte el documento técnico Cómo organizar su entorno de AWS con varias cuentas.

Todos los trabajos de evaluación de modelos requieren permisos de IAM y funciones de servicio de IAM. Para obtener más información, consulte la documentación de Amazon Bedrock para conocer los permisos necesarios para crear un trabajo de evaluación de modelos mediante la consola de Amazon Bedrock, los requisitos del rol de servicio y los permisos necesarios para compartir recursos de origen cruzado (CORS). Los trabajos de evaluación automática y los trabajos de evaluación de modelos que utilizan trabajadores humanos requieren diferentes funciones de servicio. Para obtener más información sobre las políticas necesarias para que un rol realice trabajos de evaluación de modelos, consulte Requisitos de rol de servicio para trabajos de evaluación automática de modelos y Requisitos de rol de servicio para trabajos de evaluación de modelos que utilizan evaluadores humanos en la documentación de Amazon Bedrock.

Para los conjuntos de datos de peticiones personalizados, debe especificar una configuración de CORS en el bucket de S3. Para conocer la configuración mínima requerida, consulte la documentación de Amazon Bedrock. En los trabajos de evaluación de modelos que utilizan trabajadores humanos, es necesario contar con un equipo de trabajo. Puedes crear o gestionar, crear o gestionar equipos de trabajo mientras configuras un trabajo de evaluación modelo y añadir trabajadores a una plantilla privada gestionada por Amazon SageMaker Ground Truth. Para gestionar los equipos de trabajo que se crean en Amazon Bedrock fuera de la configuración del trabajo, debe utilizar las consolas Amazon Cognito o Amazon Ground SageMaker Truth. Amazon Bedrock admite un máximo de 50 trabajadores por equipo de trabajo.

Durante el trabajo de evaluación del modelo, Amazon Bedrock hace una copia temporal de los datos y, a continuación, los elimina una vez finalizado el trabajo. Utiliza una clave de AWS KMS para cifrarlo. De forma predeterminada, los datos se cifran con una clave gestionada por AWS, pero le recomendamos que utilice en su lugar una clave gestionada por el cliente. Para obtener más información, consulte Cifrado de datos para trabajos de evaluación de modelos en la documentación de Amazon Bedrock.