La Inteligencia Artificial (IA) está transformando rápidamente nuestra forma de trabajar, comunicarnos y tomar decisiones. Las Administraciones Públicas no son ajenas a este proceso y cada vez son más las herramientas basadas en IA que pueden incorporarse a la gestión pública: automatización de tareas, análisis de datos, atención a la ciudadanía, elaboración de documentos, gestión de recursos humanos o diseño y evaluación de políticas públicas.
Estas tecnologías ofrecen importantes oportunidades para mejorar la eficiencia y la calidad de los servicios públicos. Sin embargo, su utilización también plantea nuevos desafíos desde la perspectiva de la igualdad entre mujeres y hombres.
La Inteligencia Artificial no es necesariamente neutral
Uno de los principales riesgos asociados a la IA es la reproducción de sesgos de género ya existentes en nuestra sociedad.
Los sistemas de Inteligencia Artificial aprenden a partir de grandes cantidades de datos. Si esos datos reflejan desigualdades históricas, estereotipos o una representación insuficiente de las mujeres, el sistema puede reproducirlos e incluso amplificarlos.
Pensemos, por ejemplo, en una herramienta utilizada para apoyar procesos de selección de personal que ha sido entrenada a partir de contrataciones realizadas durante años en un sector tradicionalmente masculinizado. Si los datos históricos muestran que los puestos de responsabilidad han sido ocupados mayoritariamente por hombres, el sistema podría acabar identificando determinadas características asociadas a los candidatos masculinos como indicadores de mayor idoneidad.
Algo similar puede suceder con herramientas empleadas para distribuir recursos, determinar perfiles de personas beneficiarias, analizar necesidades sociales o establecer prioridades en la prestación de determinados servicios públicos.
Por ello, utilizar un algoritmo no elimina automáticamente la discriminación de una decisión. La tecnología puede reproducir los mismos sesgos que pretendemos evitar si no incorporamos la perspectiva de género desde su diseño, selección y utilización.
¿Qué oportunidades ofrece la IA para avanzar en igualdad?
Al mismo tiempo, utilizada de manera responsable, la Inteligencia Artificial también puede convertirse en una herramienta útil para las políticas públicas de igualdad.
Puede facilitar el análisis de grandes volúmenes de información, ayudar a identificar desigualdades que anteriormente resultaban difíciles de detectar, mejorar el seguimiento de indicadores desagregados por sexo o apoyar la evaluación del impacto de las políticas municipales.
También puede contribuir a detectar patrones en ámbitos como la brecha salarial, la participación de mujeres y hombres, la distribución de recursos o el acceso a determinados servicios.
En los municipios pequeños, donde los recursos técnicos y humanos son frecuentemente limitados, estas herramientas pueden resultar especialmente interesantes para agilizar determinadas tareas y facilitar el acceso y tratamiento de información.
La cuestión, por tanto, no consiste en renunciar a la Inteligencia Artificial, sino en preguntarnos cómo la utilizamos y con qué garantías.
Una responsabilidad también para las Administraciones Públicas
La igualdad y la no discriminación deben estar presentes en los procesos de transformación digital de las Administraciones.
La Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación, dedica específicamente su artículo 23 a la Inteligencia Artificial y a los mecanismos de toma de decisión automatizados. La norma establece que las Administraciones Públicas deben favorecer mecanismos para que los algoritmos utilizados en la toma de decisiones tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, abordando además su posible impacto discriminatorio.
A ello se suma el Reglamento Europeo de Inteligencia Artificial (AI Act), que establece un marco basado en el nivel de riesgo de los diferentes sistemas de IA. Algunos usos especialmente sensibles, como determinados sistemas relacionados con la selección y gestión de personal o con el acceso a servicios y prestaciones públicas esenciales, reciben una protección reforzada precisamente por el impacto que una decisión automatizada puede tener sobre los derechos de las personas.
Por tanto, incorporar una herramienta de IA a una Administración no debería consistir únicamente en valorar si resulta útil, rápida o económica. También debemos preguntarnos: ¿con qué datos ha sido entrenada?, ¿puede producir resultados diferentes para mujeres y hombres?, ¿podemos explicar cómo llega a sus resultados?, ¿existe supervisión humana?, ¿qué consecuencias tendría un error o un sesgo sobre la ciudadanía?
Incorporar la perspectiva de género desde el principio
La transformación digital de las Administraciones Públicas constituye una oportunidad para prestar servicios más eficientes, pero también para construir instituciones más igualitarias.
Para conseguirlo es necesario incorporar la perspectiva de género desde el inicio: evaluar los posibles impactos discriminatorios, revisar la calidad y representatividad de los datos, formar al personal público en un uso responsable de estas herramientas y garantizar que las decisiones que afectan a las personas continúen contando con las garantías necesarias de transparencia, supervisión y rendición de cuentas.
La Inteligencia Artificial puede ayudarnos a avanzar hacia una Administración más moderna y eficiente. El reto es conseguir que esa Administración sea también más justa, inclusiva e igualitaria.
Desde Iguales141, servicio de la Diputación de Alicante, continuamos acompañando a los municipios de la provincia en la incorporación transversal de la igualdad entre mujeres y hombres a sus políticas públicas, también ante los nuevos retos que plantea la transformación digital.
