Práticas de IA proibidas

O artigo 5 do AI Act lista práticas que não podem ser colocadas no mercado, postas em serviço nem usadas na União. Entre elas estão técnicas manipuladoras ou enganosas que distorcem o comportamento e causam dano significativo; a exploração de vulnerabilidades ligadas a idade, deficiência ou situação social e econômica; a pontuação social que leva a tratamento prejudicial injustificado ou desproporcional; a previsão de que uma pessoa cometerá crime com base apenas em perfilamento ou traços de personalidade; a criação de bancos de reconhecimento facial por coleta não direcionada de imagens; a inferência de emoções no trabalho e na escola, salvo por razões médicas ou de segurança; a categorização biométrica para inferir características sensíveis, como opinião política ou orientação sexual; e a identificação biométrica remota em tempo real em espaços públicos para fins policiais, salvo exceções estritas.

Esse é o topo da pirâmide de risco, então a resposta é parar, não mitigar. Na prática, ao triar um novo caso de uso, a organização deve confrontá-lo com o artigo 5 antes de qualquer outra classificação, porque nenhuma documentação ou supervisão torna aceitável uma prática proibida.