IA responsável
Definição
Abordagem de projeto, desenvolvimento e uso de IA para que ela seja lícita, segura, justa, transparente, responsabilizável e respeite os direitos humanos em todo o ciclo de vida.
IA responsável é o conjunto de valores que uma organização assume ao desenvolver ou usar IA, junto com as práticas que tornam esses valores verificáveis. Os Princípios de IA da OCDE, a Recomendação da UNESCO sobre a Ética da IA e as características de confiabilidade do NIST AI RMF convergem em temas semelhantes: respeito aos direitos humanos e ao Estado de Direito, justiça e não discriminação, transparência e explicabilidade, robustez e segurança, privacidade e responsabilização clara.
O termo é mais amplo que a conformidade legal. Um sistema pode cumprir todas as regras aplicáveis e ainda gerar resultados que os usuários consideram injustos ou opacos. Por isso, a IA responsável depende da governança para atribuir decisões, de avaliações de impacto e de risco para antecipar danos e de supervisão humana e monitoramento para corrigi-los. Por exemplo, uma equipe que lança uma ferramenta de triagem de currículos testaria vieses entre grupos, explicaria seu papel aos candidatos e manteria uma pessoa revisando as rejeições. Esses fundamentos são cobertos na RAIF.
Onde este termo é avaliado
Avaliado na Responsible AI Foundation (RAIF), domínio 3: Princípios e frameworks.
Também cobrem este termo: Responsible AI Practitioner (RAIP)
Fontes primárias
- OECD AI Principles
- NIST AI RMF 1.0
- UNESCO Recommendation on the Ethics of AI