News Release 

La explicabilidad del aprendizaje automático desvela desafíos para las políticas públicas

American Association for the Advancement of Science

La "explicabilidad" de los sistemas de aprendizaje automático (AA) a menudo se enmarca como un desafío técnico para las comunidades que diseñan sistemas de inteligencia artificial. Sin embargo, en un Foro de Políticas, Diane Coyle y Adrian Weller argumentan que los desafíos de la explicabilidad son al menos igual de importantes para los formuladores de políticas que utilizan los sistemas de AA a fin de proporcionar información para la toma de decisiones. Según Coyle y Weller, abordar este desafío plantea importantes cuestiones sobre la responsabilidad más amplia de las organizaciones que utilizan el AA en la toma de decisiones y puede exponer sesgos políticos ocultos, aunque implícitos. En el contexto del AA, la explicabilidad se refiere al grado en que la compleja mecánica matemática interna del sistema puede explicarse en términos humanos. En otras palabras, la razón que subyace al modo en que un modelo deriva su conclusión en función de la información que se le proporciona. Pese a su potencia y a ser utilizados cada vez más en un amplio espectro de aplicaciones, la mayoría de los sistemas actuales de AA son "cajas negras" y se sabe poco sobre cómo operan los complejos algoritmos, incluso por parte de quienes los desarrollan, y mucho menos por parte del público. Por lo tanto, existe una creciente demanda de explicabilidad de los sistemas de AA, especialmente en su uso en el sector público, donde los sesgos e inexactitudes sin detectar en los datos pueden conducir a decisiones políticas con un impacto significativo en los afectados. Coyle y Weller sugieren que el uso creciente del AA obligará a los encargados de formular políticas y a las organizaciones a ser más específicos y explícitos sobre sus objetivos y, por extensión, sobre sus valores y elecciones políticas. De acuerdo con los autores, el avance en el uso de un AA explicable y transparente podría ayudar a revelar objetivos en conflicto y compensaciones implícitas en las decisiones políticas, al igual que ha ayudado a revelar el sesgo en los sistemas sociales y económicos existentes.

###

Disclaimer: AAAS and EurekAlert! are not responsible for the accuracy of news releases posted to EurekAlert! by contributing institutions or for the use of any information through the EurekAlert system.