Estudio de la UNESCO revela prejuicios de la Inteligencia Artificial generativa contra las mujeres

Un análisis realizado por la Unesco revela que la inteligencia artificial generativa muestra prejuicios y estereotipos contra las mujeres. Según el estudio, los grandes modelos de lenguaje utilizados por empresas como OpenAI y Meta, propagan un contenido sesgado y sexista.

Lee también: Se lleva a cabo la muestra artística “Mes de la Mujer”

El estudio indica que los modelos GPT 2, GPT 3.5 y Llama 2, utilizados en herramientas de IA generativa, muestran "pruebas inequívocas de prejuicios contra las mujeres". Los nombres femeninos se asocian más a términos como "casa" y "familia", mientras que los nombres masculinos se relacionan con palabras como "comercio" y "sueldo". Además, se encontró que las historias generadas por estas interfaces presentan estereotipos y repetición en relación a personas de culturas minoritarias.

Esta situación refleja las desigualdades presentes en el mundo real y las amplifica en el ámbito digital. Tawfik Jelassi, subdirector general de la Unesco, señala que estas discriminaciones digitales tienen un impacto tangible en los usuarios y pueden moldear sus percepciones, amplificando las desigualdades de género.

Lee también: Violencia de género digital: mujeres y niñas enfrentan acosos y amenazas constantes en línea

Para combatir estos prejuicios, la Unesco recomienda a las empresas del sector tener equipos de ingenieros más diversos, en particular promoviendo la participación de mujeres. Actualmente, solo un 22% de los equipos de trabajo en IA son mujeres a nivel mundial, según cifras del Foro Económico Mundial.

La directora general de la Unesco, Audrey Azoulay, destaca que estas aplicaciones tienen el poder de influenciar las percepciones de millones de personas y advierte que incluso los pequeños sesgos de género en su contenido pueden acentuar las desigualdades en el mundo real. Por ello, se hace necesario implementar una "inteligencia artificial ética" y regular más intensamente el sector desde los gobiernos.

La problemática de los prejuicios de la IA generativa contra las mujeres debe ser abordada de manera urgente, buscando la inclusión y diversidad en los equipos que trabajan en este ámbito y promoviendo la responsabilidad ética en el desarrollo y uso de estas tecnologías.

La igualdad de género es un derecho fundamental que debe estar presente en todos los ámbitos de la sociedad, incluso en la inteligencia artificial.