Asseguração de IA

A asseguração responde a uma pergunta simples de conselhos, clientes e reguladores: como sabemos que este sistema de IA faz o que se afirma, com segurança e dentro da lei? A introdução à asseguração de IA publicada pelo governo britânico descreve um leque de técnicas, de avaliações de risco e de impacto, auditorias de viés e testes de desempenho até avaliação da conformidade, verificação formal e certificação segundo normas.

A asseguração pode ser interna, feita pela segunda linha, como riscos e compliance, ou independente, feita pela auditoria interna ou por terceiros. Seu valor depende de critérios claros (uma lei, a ISO/IEC 42001, uma política interna ou um compromisso contratual), de evidência suficiente e apropriada e da independência de quem emite a opinião. A ISO/IEC 42006 traz requisitos para organismos que auditam e certificam sistemas de gestão de IA.

Asseguração não é um teste único: modelos sofrem deriva e contextos mudam, então a evidência precisa ser renovada por monitoramento e revisão periódica. Exemplo: antes de ampliar um modelo de concessão de crédito, um banco contrata revisão independente das métricas de equidade, da documentação e da supervisão humana e leva as conclusões ao comitê de riscos.