Avaliação de impacto algorítmico
Definição
Avaliação dos efeitos previsíveis de um sistema de IA sobre indivíduos, grupos e sociedade, documentada antes da implantação e revista quando o sistema ou seu uso mudam.
A avaliação de impacto algorítmico olha para fora: em vez de perguntar o que pode dar errado para a organização, pergunta quem pode ser afetado pelo sistema e de que forma. A ISO/IEC 42001 exige que a organização avalie impactos sobre indivíduos e sociedades, e a ISO/IEC 42005 orienta como fazê-lo. A Diretiva sobre Decisões Automatizadas do Canadá usa um questionário pontuado cujo resultado define os controles que o órgão público deve aplicar.
O conteúdo típico inclui finalidade e contexto, grupos afetados, danos possíveis (discriminação, perda de acesso a serviços, intrusão na privacidade, segurança), medidas de mitigação e impacto residual. Há sobreposição com o RIPD quando há tratamento de dados pessoais e com a FRIA exigida de certos responsáveis pela implantação no AI Act; muitas organizações fazem uma avaliação integrada para evitar retrabalho.
Exemplo: uma prefeitura que pretende ordenar pedidos de benefício social com um modelo documenta o impacto sobre famílias vulneráveis e decide que o assistente social, e não a pontuação, dá a palavra final.
Onde este termo é avaliado
Avaliado na Responsible AI Practitioner (RAIP), domínio 2: Avaliação de risco e de impacto.
Também cobrem este termo: Responsible AI Auditor (AUDAI)
Fontes primárias
- ISO/IEC 42005:2025
- ISO/IEC 42001:2023, clause 6.1.4
- Government of Canada Directive on Automated Decision-Making