Comitê de ética em IA
Definição
Órgão multidisciplinar que analisa usos de IA relevantes ou controversos, assessora quem decide e encaminha preocupações éticas dentro da estrutura de governança da organização.
O comitê de ética em IA, às vezes chamado de conselho de revisão de IA ou de IA responsável, reúne perspectivas que uma única área não tem: jurídico, privacidade, segurança, riscos, ciência de dados, negócio e, idealmente, pessoas que conhecem as comunidades afetadas. Suas tarefas usuais são revisar casos de uso de alto impacto, decidir situações que a política não resolve, assessorar a aceitação de riscos e acompanhar se os princípios são aplicados na prática.
A ISO/IEC 38507 lembra que o órgão de governança continua responsável pelo uso de IA na organização, por isso o comitê precisa de um regimento claro: mandato, composição, poder de decisão (consultivo ou vinculante), caminho de escalonamento até a diretoria ou o conselho e forma de registrar suas decisões. A função Govern do NIST AI RMF também espera papéis e responsabilidades definidos. Um comitê sem autoridade, recursos ou decisões documentadas tende a ser simbólico, e reguladores e auditores percebem isso.
Exemplo: o comitê de uma operadora de saúde barra a proposta de usar dados de dispositivos vestíveis para definir mensalidades e exige uma avaliação de impacto antes de qualquer piloto.
Onde este termo é avaliado
Avaliado na Responsible AI Leader (RAIL), domínio 1: Estruturação do programa de governança de IA.
Também cobrem este termo: Responsible AI for Executives (RAI-X)
Fontes primárias
- ISO/IEC 38507:2022
- NIST AI RMF 1.0 (Govern)