ISO/IEC 23894

A ISO/IEC 23894 é uma norma de orientação, portanto contém recomendações, e não requisitos certificáveis. Ela adota a estrutura conhecida da ISO 31000, com princípios, uma estrutura e um processo de identificação, análise, avaliação e tratamento de riscos, e explica o que muda quando a fonte de risco é um sistema de IA. Seus anexos descrevem objetivos comuns relacionados à IA, como justiça, transparência, robustez, segurança e privacidade, fontes de risco típicas, como falta de transparência, nível de automação, complexidade do aprendizado de máquina e qualidade dos dados, e como a gestão de riscos se aplica a cada etapa do ciclo de vida da IA.

Seu principal valor é a integração. Organizações que já fazem gestão de riscos corporativos com base na ISO 31000 podem estender ao campo da IA o mesmo vocabulário, apetite a risco e linhas de reporte, em vez de criar um método separado. Ela também apoia as cláusulas de avaliação e tratamento de riscos da ISO/IEC 42001. Por exemplo, a equipe de riscos pode registrar a deriva de um modelo de detecção de fraude como um risco com probabilidade, impacto, responsável e plano de tratamento, como qualquer outro risco operacional.