Aseguramiento de IA

El aseguramiento responde a una pregunta simple de directorios, clientes y reguladores: ¿cómo sabemos que este sistema de IA hace lo que se afirma, de forma segura y legal? La introducción al aseguramiento de IA publicada por el gobierno británico describe un abanico de técnicas, desde evaluaciones de riesgo e impacto, auditorías de sesgo y pruebas de desempeño hasta la evaluación de la conformidad, la verificación formal y la certificación según normas.

El aseguramiento puede ser interno, a cargo de la segunda línea, como riesgos o cumplimiento, o independiente, a cargo de la auditoría interna o de terceros. Su valor depende de criterios claros (una ley, la ISO/IEC 42001, una política interna o un compromiso contractual), de evidencia suficiente y adecuada, y de la independencia de quien emite la opinión. La ISO/IEC 42006 fija requisitos para los organismos que auditan y certifican sistemas de gestión de IA.

El aseguramiento no es una prueba única: los modelos sufren deriva y los contextos cambian, por lo que la evidencia debe renovarse con monitoreo y revisión periódica. Ejemplo: antes de ampliar un modelo de calificación crediticia, un banco encarga una revisión independiente de equidad, documentación y supervisión humana.