Simulado da Responsible AI Leader

Questões de exemplo

Duas questões deste simulado, no mesmo estilo do exame de certificação. Responda antes de abrir a explicação.

1. Questão 1

   O estatuto (charter) do comitê de IA de uma empresa de pagamentos diz que ele "analisa e aconselha" sobre casos de uso de IA. No primeiro ano, duas unidades de negócio lançaram sistemas de alto risco contra as recomendações do comitê, e ninguém precisou justificar a decisão. Qual mudança no estatuto resolve isso de forma mais direta?

   1. Colocar o CEO na presidência do comitê, para que suas recomendações tenham mais peso junto aos líderes de negócio
   2. Aumentar a frequência das reuniões, para que as recomendações cheguem às unidades bem antes das datas de lançamento
   3. Dar ao comitê direitos de decisão definidos sobre casos de uso de alto risco, com uma rota documentada de escalonamento para divergências
   4. Exigir que as unidades anexem a recomendação do comitê à documentação de cada lançamento
   Ver resposta e explicação

   Resposta correta: C. Dar ao comitê direitos de decisão definidos sobre casos de uso de alto risco, com uma rota documentada de escalonamento para divergências

   A lacuna é de autoridade: um mandato consultivo permite que as unidades ignorem o comitê sem consequência. O estatuto deve definir direitos de decisão, por exemplo aprovar, aprovar com condições ou rejeitar para faixas de risco definidas, e como as divergências sobem, por exemplo à diretoria executiva, para que contrariar o comitê passe a ser uma decisão visível e com responsável. Um presidente mais sênior traz influência, mas influência não é direito de decisão e o mandato continua consultivo. Mais reuniões entregam mais cedo um conselho que ainda pode ser ignorado. Anexar a recomendação registra a divergência, mas não obriga ninguém a resolvê-la.

2. Questão 2

   A política de IA exige uma avaliação de viés antes que qualquer modelo voltado a clientes entre em produção. Uma equipe de produto pede para lançar um modelo de precificação sem ela, porque o conjunto de dados da avaliação só ficará pronto mais tarde. Qual forma de tratar o pedido reflete boa prática de governança?

   1. Uma exceção documentada e com prazo, aprovada num nível de alçada compatível com o risco, com controles compensatórios e um responsável nomeado
   2. Uma recusa em qualquer caso, já que permitir exceções a um requisito obrigatório enfraquece a autoridade da política
   3. Aprovação apenas pelo escritório de governança, desde que a equipe se comprometa por escrito a fazer a avaliação depois
   4. Aprovação se o líder da equipe aceitar o risco por e-mail, já que a equipe é quem melhor conhece o modelo e seus clientes
   Ver resposta e explicação

   Resposta correta: A. Uma exceção documentada e com prazo, aprovada num nível de alçada compatível com o risco, com controles compensatórios e um responsável nomeado

   Uma política precisa de uma rota de exceção, senão as equipes a contornam em silêncio. Uma exceção bem feita é documentada, tem prazo de validade, é aprovada por alguém com alçada proporcional ao risco, vem com controles compensatórios, como um lançamento limitado ou monitoramento mais próximo, e entra num registro para que as exceções sejam acompanhadas e reportadas. Uma recusa absoluta parece firme, mas tende a empurrar as equipes para fora do processo. A aprovação só pelo escritório de governança tira do negócio a titularidade do risco, e uma promessa por escrito não é controle compensatório. O e-mail do líder da equipe é aceitação em nível baixo demais e não deixa rastro no registro.