Faithfulness sin anclas: documento de posición sobre las desalineaciones estructurales de las métricas de fidelidad de IA explicable para la importancia de características

Los métodos de Inteligencia Artificial Explicable (XAI) se han promocionado como instrumentos para generar confianza al hacer que los modelos de aprendizaje automático resulten más comprensibles para los usuarios. Sin embargo, la evidencia acumulada en la última década indica que, en la práctica, estos enfoques no logran ese objetivo y pueden incluso fomentar una confianza excesiva en predicciones erróneas, lo que a su vez produce aversión hacia los algoritmos. En lugar de servir como garantía de fiabilidad, la XAI parece desempeñar un papel más útil como herramienta de depuración, proporcionando visiones anecdóticas sobre, por ejemplo, qué características ha aprendido el modelo. Un problema central es la tendencia de las técnicas explicativas a simplificar en exceso el funcionamiento interno del modelo, generando una desconexión entre la explicación y el modelo real, fenómeno conocido como falta de fidelidad o infidelidad. La fidelidad se define como el grado de aproximación entre la explicación y el comportamiento del modelo; medirla de forma rigurosa permitiría cuantificar un componente clave de la confiabilidad de la explicación. El artículo de posición identifica cinco limitaciones importantes de las métricas actuales de fidelidad y sugiere cuatro líneas de investigación para mejorar su robustez y viabilidad computacional. Esta discusión es relevante porque, sin métricas fiables, los usuarios pueden confiar en explicaciones engañosas, lo que compromete la toma de decisiones basada en IA y dificulta la adopción segura de estos sistemas.

Leer artículo original en arXiv cs.AI

Este resumen es una síntesis informativa elaborada por dataqbs.com. Todos los derechos sobre el contenido original pertenecen a su autor y al medio de comunicación citado. Nosotros solo actuamos como curadores de noticias tecnológicas, sin reclamar autoría alguna.