Simulacro de la Responsible AI Leader

Preguntas de ejemplo

Dos preguntas de este simulacro, con el mismo estilo del examen de certificación. Responde antes de abrir la explicación.

1. Pregunta 1

   El estatuto (charter) del comité de IA de una empresa de pagos dice que "revisa y asesora" sobre casos de uso de IA. En su primer año, dos unidades de negocio lanzaron sistemas de alto riesgo en contra de sus recomendaciones, y nadie tuvo que justificar la decisión. ¿Qué cambio en el estatuto resuelve esto de forma más directa?

   1. Poner al director general en la presidencia del comité, para que sus recomendaciones tengan más peso ante los líderes de negocio
   2. Aumentar la frecuencia de las reuniones, para que las recomendaciones lleguen a las unidades mucho antes de las fechas de lanzamiento
   3. Dar al comité derechos de decisión definidos sobre los casos de uso de alto riesgo, con una ruta documentada de escalamiento para los desacuerdos
   4. Exigir que las unidades adjunten la recomendación del comité a la documentación de cada lanzamiento
   Ver respuesta y explicación

   Respuesta correcta: C. Dar al comité derechos de decisión definidos sobre los casos de uso de alto riesgo, con una ruta documentada de escalamiento para los desacuerdos

   La brecha es de autoridad: un mandato consultivo permite que las unidades ignoren al comité sin consecuencias. El estatuto debe definir derechos de decisión, por ejemplo aprobar, aprobar con condiciones o rechazar para niveles de riesgo definidos, y cómo escalan los desacuerdos, por ejemplo al comité ejecutivo, para que contradecir al comité sea una decisión visible y con responsable. Un presidente de mayor jerarquía aporta influencia, pero la influencia no es un derecho de decisión y el mandato sigue siendo consultivo. Más reuniones entregan antes un consejo que todavía puede ignorarse. Adjuntar la recomendación deja constancia del desacuerdo, pero no obliga a nadie a resolverlo.

2. Pregunta 2

   La política de IA exige una evaluación de sesgo antes de que cualquier modelo dirigido a clientes entre en producción. Un equipo de producto pide lanzar un modelo de fijación de precios sin ella, porque el conjunto de datos de la evaluación recién estará listo más adelante. ¿Qué forma de tratar la solicitud refleja una buena práctica de gobernanza?

   1. Una excepción documentada y con plazo, aprobada en un nivel de autoridad acorde con el riesgo, con controles compensatorios y un responsable designado
   2. Un rechazo en todos los casos, ya que permitir excepciones a un requisito obligatorio debilita la autoridad de la política
   3. La aprobación solo por la oficina de gobernanza, siempre que el equipo se comprometa por escrito a hacer la evaluación después
   4. La aprobación si el líder del equipo acepta el riesgo por correo electrónico, ya que el equipo es quien mejor conoce el modelo y a sus clientes
   Ver respuesta y explicación

   Respuesta correcta: A. Una excepción documentada y con plazo, aprobada en un nivel de autoridad acorde con el riesgo, con controles compensatorios y un responsable designado

   Una política necesita una ruta de excepción; si no, los equipos la eluden en silencio. Una excepción bien hecha está documentada, tiene fecha de vencimiento, la aprueba alguien con autoridad proporcional al riesgo, viene con controles compensatorios, como un lanzamiento limitado o un monitoreo más cercano, y se anota en un registro para que las excepciones se sigan y se reporten. Un rechazo absoluto parece firme, pero suele empujar a los equipos a saltarse el proceso. La aprobación solo por la oficina de gobernanza le quita al negocio la titularidad del riesgo, y una promesa por escrito no es un control compensatorio. El correo del líder del equipo es una aceptación en un nivel demasiado bajo y no deja rastro en el registro.