Comité de ética de IA
Definición
Órgano multidisciplinario que revisa usos de IA relevantes o controvertidos, asesora a quienes deciden y escala inquietudes éticas dentro de la estructura de gobernanza de la organización.
El comité de ética de IA, a veces llamado consejo de revisión de IA o de IA responsable, reúne perspectivas que un área sola no tiene: legal, privacidad, seguridad, riesgos, ciencia de datos, negocio e, idealmente, personas que conocen a las comunidades afectadas. Sus tareas habituales son revisar casos de uso de alto impacto, resolver situaciones que la política no define, asesorar sobre la aceptación de riesgos y vigilar que los principios se apliquen en la práctica.
La ISO/IEC 38507 recuerda que el órgano de gobierno sigue siendo responsable del uso de IA en la organización, por lo que el comité necesita un estatuto claro: mandato, integración, facultades de decisión (consultivas o vinculantes), vía de escalamiento hacia la dirección o el directorio y forma de registrar sus decisiones. La función Govern del NIST AI RMF también espera funciones y responsabilidades definidas. Un comité sin autoridad, recursos ni decisiones documentadas tiende a ser simbólico, y los reguladores y auditores lo notan.
Ejemplo: el comité de una aseguradora de salud frena la propuesta de usar datos de dispositivos portátiles para fijar primas y exige una evaluación de impacto antes de cualquier piloto.
Dónde se evalúa este término
Evaluado en la Responsible AI Leader (RAIL), dominio 1: Construcción del programa de gobernanza de IA.
También lo cubren: Responsible AI for Executives (RAI-X)
Fuentes primarias
- ISO/IEC 38507:2022
- NIST AI RMF 1.0 (Govern)