Sistema de gestão de IA (AIMS)
Definição
Conjunto de políticas, objetivos, processos e controles inter-relacionados que a organização usa para governar o desenvolvimento, o fornecimento ou o uso responsável de sistemas de IA, conforme a ISO/IEC 42001.
Um sistema de gestão de IA (AIMS) é a governança de IA tornada repetível. Em vez de examinar cada sistema de forma improvisada, a organização define o escopo, atribui papéis, estabelece uma política de IA e objetivos mensuráveis e executa um ciclo planejar-fazer-checar-agir: identifica riscos e impactos, aplica controles, monitora o desempenho, realiza auditorias internas e análises críticas pela direção e corrige não conformidades.
Um AIMS normalmente convive com sistemas de gestão já existentes de segurança da informação (ISO/IEC 27001) e de privacidade (ISO/IEC 27701), compartilhando processos como controle de documentos, competência, gestão de fornecedores e tratamento de incidentes. Seus elementos característicos são o inventário de sistemas de IA, as avaliações de riscos e de impacto de IA, os controles do ciclo de vida, do projeto à desativação, e a transparência com usuários e pessoas afetadas. Por exemplo, uma fintech com um AIMS manteria um registro de cada modelo em uso, um responsável para cada um, registros das avaliações e um cronograma de revisões, e conseguiria mostrar a um auditor como um novo chatbot passou do pedido à implantação aprovada.
Onde este termo é avaliado
Avaliado na Responsible AI Leader (RAIL), domínio 2: Sistema de gestão de IA ISO/IEC 42001.
Também cobrem este termo: Responsible AI Auditor (AUDAI)
Fontes primárias
- ISO/IEC 42001:2023