Política de uso aceitável de IA
Definição
Política organizacional que define quais ferramentas de IA as pessoas podem usar, para quais finalidades, com quais dados e sob quais regras de revisão e divulgação.
A política de uso aceitável de IA traduz princípios de governança em instruções do dia a dia. Uma política prática lista ferramentas aprovadas, restritas e proibidas; classifica quais dados nunca podem ir para serviços externos de IA (dados pessoais, informações confidenciais de clientes, segredos comerciais, credenciais); exige verificação humana dos resultados antes de usá-los ou enviá-los para fora; define regras para informar clientes ou o público sobre o uso de IA; e explica como solicitar uma nova ferramenta e como relatar problemas.
A ISO/IEC 42001 espera que a alta direção estabeleça uma política de IA, e o Anexo A traz controles sobre políticas de uso responsável; a política também apoia o dever de letramento em IA que o AI Act impõe a fornecedores e responsáveis pela implantação. Ela só funciona com treinamento, alternativas aprovadas acessíveis e revisão periódica, porque as ferramentas mudam rápido. É a principal resposta à shadow AI.
Exemplo: a política de uma consultoria permite um assistente corporativo para rascunhos, proíbe enviar dados de clientes a chatbots de consumo e exige o visto de um revisor em toda entrega feita com apoio de IA.
Onde este termo é avaliado
Avaliado na Responsible AI Foundation (RAIF), domínio 5: Uso responsável no trabalho.
Também cobrem este termo: Responsible AI Leader (RAIL)
Fontes primárias
- ISO/IEC 42001:2023, clause 5.2 and Annex A.2