7. Implementación continua

Para que un sistema de aprendizaje automático se implemente de forma continua, debe poder desviar el tráfico desde o entre los modelos activos. Un sistema que se implementa de forma continua tiene al menos una forma de promover los modelos a producción: canary, shadow,blue/green, or A/B. Confirme que en el sistema ML hay al menos una forma de revertir los modelos.

7.1 Cambio de modelo	El sistema puede cambiar entre modelos versionados durante la puesta en escena y la producción. Puede desviar el tráfico de una sola vez o de forma incremental hacia nuevas variantes de producción.
7.2 Procesos de promoción de modelos	Para la promoción de modelos existe un proceso de validación por etapas. El proceso utiliza pruebas fuera de línea que no afectan al sistema de producción, como la ejecución de pruebas con datos de validación en un entorno provisional. Se establecen un manual y métricas para la promoción de modelos. La promoción sigue una de las estrategias de lanzamiento.
7.3 Estrategias de reversión	Existe una estrategia de reversión para que, cuando se produzca un error o el modelo se desvíe del comportamiento esperado, se produzca una reversión, una alternativa o una reversión. En una reversión, el modelo vuelve a una versión de implementación anterior. Como alternativa, el modelo se sustituye por una heurística sólida. Roll Through promoverá la producción del siguiente modelo, al igual que el modelo anterior. Existen guías para todas estas estrategias.
7.4 Despliegue de Canary	El sistema se puede implementar mediante un canario. Inicialmente, una pequeña parte del tráfico se envía al nuevo modelo. Con el tiempo, todo el tráfico pasa al nuevo modelo. Este cambio se supervisa de cerca porque las pruebas se realizan en el entorno de producción.
7.5 Modele un despliegue paralelo	El sistema puede ejecutar un despliegue paralelo en el que el nuevo modelo funcione junto con el modelo existente. Ambos modelos reciben tráfico, pero solo el modelo anterior genera inferencias. Las evaluaciones se ejecutan en el nuevo modelo en comparación con el modelo existente y, a continuación, el nuevo modelo se promueve manualmente.
7.6 Despliegue azul/verde	El sistema se puede implementar con un modelo nuevo (verde, que está en fase de pruebas) y con el modelo anterior (azul, que es de producción), y ambos funcionan al mismo tiempo. Una vez finalizadas las pruebas, el tráfico se desvía del entorno azul al verde. Esta estrategia evita el tiempo de inactividad debido a que se crean entornos idénticos.
7.7 Support para pruebas A/B o más	El sistema admite el uso de versiones de modelos en el entorno implementado para ejecutar pruebas A/B en el tráfico entrante. Esto puede incluir la posibilidad de promocionarse automáticamente en función del modelo más nuevo que gane en las pruebas. En las configuraciones más avanzadas se utilizará un proceso de bandido con varios brazos.