IA responsable
Definición
Enfoque para diseñar, desarrollar y usar la IA de forma lícita, segura, justa, transparente y responsable, con respeto de los derechos humanos en todo su ciclo de vida.
La IA responsable es el conjunto de valores que una organización asume al desarrollar o usar IA, junto con las prácticas que hacen verificables esos valores. Los Principios de IA de la OCDE, la Recomendación de la UNESCO sobre la Ética de la IA y las características de confiabilidad del NIST AI RMF coinciden en temas similares: respeto de los derechos humanos y del Estado de derecho, equidad y no discriminación, transparencia y explicabilidad, robustez y seguridad, privacidad y una rendición de cuentas clara.
El concepto es más amplio que el cumplimiento legal. Un sistema puede cumplir todas las normas aplicables y aun así producir resultados que los usuarios perciben como injustos u opacos. Por eso, la IA responsable se apoya en la gobernanza para asignar decisiones, en evaluaciones de impacto y de riesgo para anticipar daños y en la supervisión humana y el monitoreo para corregirlos. Por ejemplo, un equipo que lanza una herramienta de preselección de candidatos evaluaría sesgos entre grupos, explicaría su función a los postulantes y mantendría a una persona revisando los rechazos. Estos fundamentos se cubren en la RAIF.
Dónde se evalúa este término
Evaluado en la Responsible AI Foundation (RAIF), dominio 3: Principios y marcos de referencia.
También lo cubren: Responsible AI Practitioner (RAIP)
Fuentes primarias
- OECD AI Principles
- NIST AI RMF 1.0
- UNESCO Recommendation on the Ethics of AI