Ficha de modelo (model card)
Definición
Documento breve y estructurado que describe el uso previsto de un modelo entrenado, su desempeño entre grupos relevantes, limitaciones, datos de entrenamiento y consideraciones éticas.
La ficha de modelo (model card) fue propuesta por Mitchell y colegas como práctica de transparencia: todo modelo publicado debe acompañarse de un documento que explique para qué sirve, cómo se evaluó y dónde no debe usarse. Una ficha típica incluye detalles del modelo, usos previstos y fuera de alcance, factores como grupos demográficos o entornos, métricas, datos de evaluación y de entrenamiento, resultados desagregados, consideraciones éticas y advertencias.
La práctica respalda varias obligaciones sin ser, en sí misma, un formulario legal. El Reglamento Europeo de IA exige documentación técnica para sistemas de alto riesgo (Anexo IV) y documentación para modelos de IA de uso general, y los auditores usan la ficha como evidencia de lo que el proveedor sabía y comunicó. La ficha de modelo complementa la ficha de datos, que documenta los datos y no el modelo.
Ejemplo: un equipo que publica un modelo de reconocimiento de voz informa las tasas de error por acento y aclara que el modelo no se evaluó para dictado médico, desaconsejando ese uso.
Dónde se evalúa este término
Evaluado en la Responsible AI Practitioner (RAIP), dominio 1: Ciclo de vida e inventario de sistemas de IA.
También lo cubren: Responsible AI Auditor (AUDAI)
Fuentes primarias
- Mitchell et al., Model Cards for Model Reporting (2019)
- Regulation (EU) 2024/1689 (AI Act), Annex IV