Viés algorítmico

O viés algorítmico não é só um problema de dados. A NIST SP 1270 agrupa suas fontes em três categorias: viés sistêmico, embutido em instituições e registros históricos; viés estatístico e computacional, vindo de amostras pouco representativas ou de medições falhas; e viés humano, presente em como as pessoas projetam, rotulam, interpretam e confiam nos resultados. A ISO/IEC TR 24027 descreve como o viés entra em cada etapa do ciclo de vida e como medi-lo.

O viés importa juridicamente porque pode virar discriminação. A LGPD e o GDPR restringem o tratamento de dados pessoais sensíveis e as decisões automatizadas com efeitos relevantes, e o AI Act exige que fornecedores de sistemas de alto risco examinem os dados de treinamento quanto a possíveis vieses e adotem medidas para detectá-los, preveni-los e mitigá-los. Métricas de equidade tornam o viés mensurável, mas escolher a métrica é uma decisão de governança.

Exemplo: um modelo de recrutamento treinado com promoções passadas aprende a favorecer candidatos de poucas universidades, reproduzindo o perfil histórico da equipe em vez de prever desempenho.