Proveniência de dados
Definição
Informação documentada sobre de onde os dados vieram, como e em que condições foram coletados e todas as transformações que sofreram antes do uso.
A proveniência de dados, próxima da linhagem de dados, responde às perguntas que qualquer revisor de um sistema de IA fará: que dados são estes, quem os produziu, podemos usá-los e o que aconteceu com eles no caminho? Uma boa proveniência registra fonte e método de coleta, licenças, contratos ou base legal, condições de consentimento quando houver, datas, versões, filtragens, rotulagem e os fluxos que combinaram conjuntos de dados.
O AI Act exige, para sistemas de alto risco, práticas de governança de dados que cubram os processos de coleta e a origem dos dados e, no caso de dados pessoais, a finalidade original da coleta. A LGPD e o GDPR exigem que o controlador saiba qual base legal ampara o reuso para treinamento. A proveniência também importa para direitos autorais, para dados sintéticos misturados a dados reais e para auditorias, nas quais os registros de linhagem são evidência central. A série ISO/IEC 5259 trata da qualidade de dados para análise e aprendizado de máquina.
Exemplo: um auditor rastreia o conjunto de treinamento de um modelo até um fórum raspado da web e pede ao fornecedor que demonstre que os termos de uso permitiam isso.
Onde este termo é avaliado
Avaliado na Responsible AI Practitioner (RAIP), domínio 4: Governança de dados para IA.
Também cobrem este termo: Responsible AI Auditor (AUDAI)
Fontes primárias
- Regulation (EU) 2024/1689 (AI Act), Art. 10
- ISO/IEC 5259 series (data quality for analytics and ML)