Governança de IA

A governança de IA transforma princípios em decisões com dono. Ela define quem pode aprovar um novo caso de uso de IA, quais riscos precisam ser avaliados antes da implantação, que documentação é mantida, quem monitora os sistemas em produção e quando um problema deve subir para a alta direção ou o conselho. A ISO/IEC 38507 a trata como parte da governança corporativa, a ISO/IEC 42001 lhe dá a estrutura de um sistema de gestão e a função Govern do NIST AI RMF descreve a cultura, a responsabilização e as políticas que sustentam as demais atividades de risco.

Boa governança de IA é proporcional: um corretor ortográfico não exige o mesmo escrutínio que um modelo de concessão de crédito. Ela também se integra a programas existentes, como proteção de dados, segurança da informação, gestão de riscos corporativos e auditoria interna, em vez de criar uma burocracia paralela. Um exemplo prático é um fluxo de entrada em que todo sistema de IA proposto é registrado, classificado por risco e aprovado por um responsável nomeado antes de chegar aos usuários.