O checklist de auditoria de IA é o programa de trabalho de quem audita um sistema de IA: para cada área em escopo, os objetivos, os passos de teste (indagação, inspeção, reexecução, procedimento analítico), as evidências a pedir e a amostra. Ele separa o desenho dos controles do seu funcionamento no período e ajusta a profundidade ao risco do sistema. Esta ferramenta monta o programa a partir das características do sistema auditado.
Como usar
- Dê nome ao sistema e informe o tipo, a origem (interno ou de fornecedor) e o risco interno.
- Diga se é alto risco pelo AI Act, se usa dados pessoais e quanto pesa nas decisões sobre pessoas.
- Escolha o tipo de trabalho e marque as áreas em escopo.
- Leia o programa, os avisos de escopo e a lista de evidências por responsável e exporte em CSV para os papéis de trabalho, ou em DOCX.
O que cada campo pede
| Campo | O que preencher |
|---|---|
| Nome do sistema de IA | O nome pelo qual o sistema é conhecido na organização. |
| Tipo de sistema | IA generativa soma testes de alucinação e injeção de prompt. |
| Origem do sistema | Sistema de fornecedor soma testes de contrato e documentação do fornecedor. |
| Risco interno | A nota de risco do inventário de IA, se houver. |
| Alto risco pelo AI Act? | Sim soma testes de documentação técnica, registros (logs) e incidente grave. |
| Usa dados pessoais? | Sim soma testes de base legal, RIPD e minimização. |
| Peso na decisão sobre pessoas | Decisão automática soma testes de contestação e intervenção humana. |
| Tipo de trabalho | Muda a orientação de amostra e o esforço estimado. |
| Áreas em escopo | Marque as áreas que o trabalho vai cobrir. Cada área gera de 2 a 4 testes. |
Exemplo
A auditoria interna de uma seguradora fictícia, a Seguradora Vale Azul, planeja auditar o assistente virtual de atendimento, um serviço de IA generativa de fornecedor, com risco interno alto e dados pessoais de clientes, fora do alto risco pelo AI Act. Com oito áreas em escopo, a ferramenta gera 28 testes, 16 de prioridade alta, e estima de 12 a 20 dias de trabalho (cerca de 127 horas). Por ser IA generativa, entram testes de alucinação, de injeção de prompt e de aviso de interação com IA; por ser de fornecedor, entram a validação e o contrato do fornecedor. O aviso aponta que desempenho e monitoramento ficaram fora do escopo de um sistema de risco alto.
Quando usar
- Ao planejar a auditoria interna de um sistema de IA já em produção.
- Na revisão de um sistema de IA antes da implantação.
- Quando a segunda linha precisa revisar os controles de IA da primeira linha.
- Para se preparar para uma auditoria externa ou de certificação do sistema de gestão de IA.
Perguntas frequentes
O que é um checklist de auditoria de IA?
É o programa de trabalho da auditoria: lista, por área, o que testar, como testar, que evidência pedir e com que amostra. Serve para planejar o trabalho, distribuir os pedidos de evidência e registrar os resultados nos papéis de trabalho.
Como a ferramenta escolhe os testes?
Cada área em escopo recebe dois testes essenciais (desenho e funcionamento do controle). Depois entram testes condicionais: IA generativa soma alucinação, injeção de prompt e aviso de IA; fornecedor soma validação, contrato e documentação do fornecedor; dados pessoais somam minimização; alto risco pelo AI Act soma registros, documentação técnica e incidente grave. O risco limita o total a 3 ou 4 testes por área.
Como a prioridade é definida?
Os testes essenciais de desenho e funcionamento pesam mais, o risco alto sobe um nível e o risco baixo desce um, e os testes condicionais sobem um nível porque tratam do risco próprio do sistema. Decisão automática sobre pessoas sobe as áreas de supervisão humana, viés e transparência.
Qual a diferença entre desenho e efetividade operacional?
O teste de desenho verifica se o controle, como foi concebido, trata o risco. O teste de efetividade operacional verifica se ele funcionou de forma consistente no período, com amostra. Um controle bem desenhado que não opera não reduz o risco.
O programa segue alguma norma de auditoria?
Ele usa práticas de auditoria amplamente difundidas, como evidência suficiente e apropriada e a separação entre desenho e funcionamento. As Normas Globais de Auditoria Interna do IIA estão em vigor desde 9 de janeiro de 2025 e ainda não há requisito temático para IA. Para sistemas de gestão de IA, a cláusula 9.2 da ISO/IEC 42001 trata da auditoria interna. Ajuste o programa à metodologia da sua área.
O resultado é uma opinião de auditoria?
Não. É uma ferramenta educativa de apoio ao planejamento: não substitui o julgamento profissional nem as normas de auditoria, não é parecer jurídico e não certifica a organização. As conclusões dependem do trabalho de campo e das evidências obtidas.
Que certificação da DPCert cobre a auditoria de sistemas de IA?
A AUDAI (Responsible AI Auditor) tem um domínio dedicado à auditoria de sistemas de IA e outro aos fundamentos de auditoria aplicados a IA e dados. O pré-requisito é a RAIP ou a DPAI.