Sistema de IA de alto riesgo

El artículo 6 del Reglamento Europeo de IA define dos vías hacia el alto riesgo. La primera abarca la IA que es un producto, o un componente de seguridad de un producto, ya regulado por la legislación de armonización de la UE y sujeto a evaluación de la conformidad por terceros, como los productos sanitarios o las máquinas. La segunda abarca los usos del Anexo III, entre ellos biometría, infraestructura crítica, educación, empleo, acceso a servicios esenciales como crédito y seguros, aplicación de la ley, migración y administración de justicia. Un sistema del Anexo III puede quedar fuera si solo realiza una tarea limitada o preparatoria sin influir de forma sustancial en las decisiones, salvo que elabore perfiles de personas.

Los proveedores de sistemas de alto riesgo deben aplicar un sistema de gestión de riesgos, gobernar los datos de entrenamiento, conservar documentación técnica y registros, diseñar para la supervisión humana, lograr una precisión y robustez adecuadas, superar la evaluación de la conformidad y colocar el marcado CE. Los responsables del despliegue deben usar el sistema según las instrucciones, asignar una supervisión humana competente y, en ciertos casos, realizar una evaluación de impacto en los derechos fundamentales.