Explicabilidade (XAI)

A explicabilidade, muitas vezes abreviada como XAI, pergunta se um resultado pode ser justificado em termos que determinado público compreenda e possa usar. O NIST IR 8312 propõe quatro princípios: o sistema fornece uma explicação, a explicação tem sentido para quem a recebe, reflete com precisão como o resultado foi produzido e o sistema opera dentro dos limites do seu conhecimento. As técnicas vão de modelos interpretáveis por natureza a métodos posteriores, como atribuição de importância a variáveis e explicações contrafactuais.

Explicabilidade difere de transparência, que trata de informar que a IA é usada e como o sistema funciona em geral. Os fundamentos jurídicos incluem o direito do GDPR a informações úteis sobre a lógica de decisões automatizadas, o art. 20 da LGPD sobre revisão dessas decisões e o direito, no AI Act, à explicação de decisões individuais tomadas com sistemas de alto risco. A explicabilidade também viabiliza a supervisão humana efetiva.

Exemplo: ao recusar um crédito, a financeira informa ao titular que o principal fator foi o endividamento elevado em relação à renda e o que mudaria o resultado.