Supervisão humana (human-in-the-loop)

A supervisão humana abrange vários desenhos: human-in-the-loop (uma pessoa aprova cada decisão), human-on-the-loop (uma pessoa acompanha e pode intervir) e human-in-command (pessoas decidem se e como o sistema será usado). O AI Act (art. 14) exige que sistemas de alto risco sejam projetados para que as pessoas designadas compreendam capacidades e limitações, fiquem atentas ao viés de automação, interpretem corretamente os resultados, decidam não usá-los ou revogá-los e interrompam o sistema. Responsáveis pela implantação devem atribuir a supervisão a pessoas com competência, formação e autoridade.

A supervisão precisa ser real, e não um carimbo. No GDPR (art. 22), uma decisão só deixa de ser exclusivamente automatizada se alguém com autoridade a revisar de forma significativa; a LGPD (art. 20) garante ao titular a revisão de decisões automatizadas. Supervisão efetiva depende de explicabilidade, letramento em IA e carga de trabalho que permita questionar o sistema.

Exemplo: em um fluxo de radiologia, a IA sinaliza exames suspeitos, mas um radiologista revisa todos os casos e registra as divergências, que alimentam o monitoramento.