Deriva del modelo

Los modelos se entrenan con una fotografía del mundo, y el mundo cambia. La deriva de datos ocurre cuando cambia la distribución de las entradas (nuevos perfiles de clientes, un sensor nuevo, comportamiento estacional); la deriva de concepto ocurre cuando cambia la relación entre las entradas y la respuesta correcta (los defraudadores se adaptan, una pandemia altera la demanda). Ambas pueden reducir la exactitud y reintroducir sesgos para algunos grupos, incluso cuando las métricas globales parecen estables.

El NIST AI RMF espera que los sistemas de IA se monitoreen en desempeño y confiabilidad durante su operación (funciones Measure y Manage), y los controles de la ISO/IEC 42001 cubren operación y monitoreo en todo el ciclo de vida. En el Reglamento Europeo de IA, los proveedores de sistemas de alto riesgo realizan vigilancia poscomercialización. En la práctica, los equipos definen métricas y umbrales de deriva, comparan los datos reales con datos de referencia, siguen métricas de equidad por grupo y activan reentrenamiento, reversión o gestión de incidentes cuando se superan los límites.

Ejemplo: un modelo de pronóstico de demanda entrenado antes de un cambio en los hábitos de compra empieza a sobrestimar inventarios hasta que las alertas activan el reentrenamiento.