Decisiones automatizadas
Definición
Decisiones sobre personas adoptadas únicamente por medios automatizados, sin intervención humana significativa, que pueden producir efectos jurídicos o similares y activan garantías específicas.
El RGPD (art. 22) reconoce el derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos o afecte significativamente de modo similar, como la denegación automática de un crédito o la selección de personal sin revisión humana. Estas decisiones solo se permiten cuando son necesarias para un contrato, están autorizadas por ley o se basan en el consentimiento explícito, y siempre con garantías: al menos el derecho a obtener intervención humana, a expresar el punto de vista y a impugnar la decisión. Además, la persona debe recibir información significativa sobre la lógica aplicada y sus consecuencias.
Varias leyes latinoamericanas, como la LGPD brasileña, reconocen el derecho a solicitar la revisión de estas decisiones y a conocer los criterios utilizados.
La intervención humana debe ser real: un revisor que aprueba mecánicamente todas las salidas no convierte la decisión en no automatizada. Por eso el tema se conecta con la supervisión humana y la explicabilidad en la gobernanza de IA.
Dónde se evalúa este término
Evaluado en la Data Protection & AI Professional (DPAI), dominio 6: Privacidad en IA y analítica.
También lo cubren: Responsible AI Practitioner (RAIP)
Fuentes primarias
- GDPR Art. 22 and Recital 71
- LGPD Art. 20