Saltar al contenido
DPCert.org
← Glosario

Ficha de modelo (model card)

Definición

Documento breve y estructurado que describe el uso previsto de un modelo entrenado, su desempeño entre grupos relevantes, limitaciones, datos de entrenamiento y consideraciones éticas.

La ficha de modelo (model card) fue propuesta por Mitchell y colegas como práctica de transparencia: todo modelo publicado debe acompañarse de un documento que explique para qué sirve, cómo se evaluó y dónde no debe usarse. Una ficha típica incluye detalles del modelo, usos previstos y fuera de alcance, factores como grupos demográficos o entornos, métricas, datos de evaluación y de entrenamiento, resultados desagregados, consideraciones éticas y advertencias.

La práctica respalda varias obligaciones sin ser, en sí misma, un formulario legal. El Reglamento Europeo de IA exige documentación técnica para sistemas de alto riesgo (Anexo IV) y documentación para modelos de IA de uso general, y los auditores usan la ficha como evidencia de lo que el proveedor sabía y comunicó. La ficha de modelo complementa la ficha de datos, que documenta los datos y no el modelo.

Ejemplo: un equipo que publica un modelo de reconocimiento de voz informa las tasas de error por acento y aclara que el modelo no se evaluó para dictado médico, desaconsejando ese uso.

Dónde se evalúa este término

Evaluado en la Responsible AI Practitioner (RAIP), dominio 1: Ciclo de vida e inventario de sistemas de IA.

También lo cubren: Responsible AI Auditor (AUDAI)

Fuentes primarias

  • Mitchell et al., Model Cards for Model Reporting (2019)
  • Regulation (EU) 2024/1689 (AI Act), Annex IV

Herramientas gratuitas sobre el tema

Términos relacionados