Evaluación de impacto algorítmico
Definición
Evaluación de los efectos previsibles de un sistema de IA sobre personas, grupos y sociedad, documentada antes del despliegue y revisada cuando cambian el sistema o su uso.
La evaluación de impacto algorítmico mira hacia afuera: en lugar de preguntar qué puede salir mal para la organización, pregunta quién puede verse afectado por el sistema y de qué manera. La ISO/IEC 42001 exige evaluar los impactos sobre personas y sociedades, y la ISO/IEC 42005 orienta cómo hacerlo. La Directiva sobre Toma de Decisiones Automatizada de Canadá usa un cuestionario con puntaje cuyo resultado define los controles que debe aplicar el organismo público.
El contenido típico incluye finalidad y contexto, grupos afectados, daños posibles (discriminación, pérdida de acceso a servicios, intrusión en la privacidad, seguridad), medidas de mitigación e impacto residual. Se superpone con la EIPD cuando se tratan datos personales y con la FRIA exigida a ciertos responsables del despliegue en el Reglamento Europeo de IA; muchas organizaciones realizan una evaluación integrada para evitar duplicidades.
Ejemplo: un municipio que planea ordenar solicitudes de ayuda social con un modelo documenta el impacto sobre hogares vulnerables y decide que el trabajador social, y no el puntaje, tenga la última palabra.
Dónde se evalúa este término
Evaluado en la Responsible AI Practitioner (RAIP), dominio 2: Evaluación de riesgo e impacto.
También lo cubren: Responsible AI Auditor (AUDAI)
Fuentes primarias
- ISO/IEC 42005:2025
- ISO/IEC 42001:2023, clause 6.1.4
- Government of Canada Directive on Automated Decision-Making