Prácticas de IA prohibidas

El artículo 5 del Reglamento Europeo de IA enumera prácticas que no pueden introducirse en el mercado, ponerse en servicio ni utilizarse en la Unión. Entre ellas figuran las técnicas manipuladoras o engañosas que distorsionan el comportamiento y causan perjuicios considerables; la explotación de vulnerabilidades ligadas a la edad, la discapacidad o la situación social y económica; la puntuación ciudadana que conduce a un trato perjudicial injustificado o desproporcionado; la predicción de que una persona cometerá un delito basada solo en la elaboración de perfiles o en rasgos de personalidad; la creación de bases de reconocimiento facial mediante extracción no selectiva de imágenes; la inferencia de emociones en el trabajo y en centros educativos, salvo por razones médicas o de seguridad; la categorización biométrica para inferir rasgos sensibles, como opiniones políticas u orientación sexual; y la identificación biométrica remota en tiempo real en espacios públicos con fines policiales, salvo excepciones estrictas.

Es el nivel superior de la pirámide de riesgo, por lo que la respuesta es detenerse, no mitigar. En la práctica, al evaluar un nuevo caso de uso, la organización debe contrastarlo con el artículo 5 antes de cualquier otra clasificación.