La transparencia de las administraciones públicas en la era de la inteligencia artificial: conceptos y claves de actuación

Resumen

La irrupción de la inteligencia artificial (IA) en todos los ámbitos de la actividad humana hace necesario redefinir el concepto de transparencia en las administraciones públicas. La opacidad de los algoritmos puede introducir y amplificar sesgos cognitivos, éticos y culturales, influyendo en la información, las fuentes y los resultados, pero también en las decisiones automáticas basadas en herramientas de IA que se toman desde las administraciones. Esto afecta a una gran diversidad de instrumentos utilizados por las instituciones, desde algoritmos de clasificación para la asignación de ayudas públicas hasta herramientas para el diagnóstico médico. Para garantizar la transparencia de su funcionamiento, el Estado debe asumir la tarea de analizar, catalogar, clasificar y controlar los algoritmos que utiliza, y poner esa información a disposición de los ciudadanos, con la dificultad añadida de que, en muchos casos, la comprensión de estos sistemas requiere conocimientos técnicos con los que la población general no cuenta. En este trabajo se expone esta problemática, junto con algunas claves de actuación y casos de éxito.