Supervisión humana (human-in-the-loop)

La supervisión humana abarca varios diseños: human-in-the-loop (una persona aprueba cada decisión), human-on-the-loop (una persona supervisa y puede intervenir) y human-in-command (las personas deciden si el sistema se usa y cómo). El Reglamento Europeo de IA (art. 14) exige que los sistemas de alto riesgo se diseñen para que las personas asignadas comprendan sus capacidades y limitaciones, estén atentas al sesgo de automatización, interpreten correctamente los resultados, decidan no usarlos o anularlos e interrumpan el sistema. Los responsables del despliegue deben asignar la supervisión a personas con la competencia, la formación y la autoridad necesarias.

La supervisión debe ser real y no un simple visto bueno. Según el art. 22 del RGPD, una decisión solo deja de ser exclusivamente automatizada si alguien con autoridad la revisa de forma significativa. Una supervisión efectiva depende de la explicabilidad, la alfabetización en IA y cargas de trabajo que dejen tiempo para cuestionar el sistema.

Ejemplo: en un flujo de radiología, la IA señala estudios sospechosos, pero un radiólogo revisa cada caso y registra los desacuerdos, que alimentan el monitoreo.