Decisões automatizadas

A LGPD (art. 20) garante ao titular o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses, incluindo decisões destinadas a definir perfil pessoal, profissional, de consumo e de crédito ou aspectos de sua personalidade. O controlador deve fornecer, quando solicitado, informações claras e adequadas sobre critérios e procedimentos usados, observados os segredos comercial e industrial. Se houver recusa com base nesses segredos, a ANPD pode realizar auditoria para verificar aspectos discriminatórios.

O GDPR (art. 22) vai além e estabelece o direito de não ser submetido a decisão exclusivamente automatizada com efeitos jurídicos ou similarmente significativos, salvo exceções, sempre com direito a intervenção humana, a manifestar o ponto de vista e a contestar.

A participação humana precisa ser real: um revisor que apenas confirma toda saída do sistema não torna a decisão não automatizada. Por isso o tema se conecta à supervisão humana e à explicabilidade na governança de IA, como em sistemas de concessão de crédito ou triagem de currículos.