Decimos que el género de una IA nos da igual, hasta que llega el momento de pagarle

La IA suele tener voz de mujer. Desde la primera Siri hasta la actual Alexa, pasando por el GPS: los asistentes virtuales han adoptado tradicionalmente voces femeninas por defecto. No es casualidad, hay razones psicológicas para ello. Para entender estas dinámicas, un grupo de investigadores suizo ha analizado cómo influye el género de un agente virtual.

Los sesgos. La industria tecnológica dio prioridad a las voces femeninas hasta convertirlas prácticamente en la norma. Esta decisión se apoya en sesgos cognitivos heredados de una sociedad sexista: los estudios sobre comportamiento avalan la asociación entre voz femenina y las funciones de asistencia, recepción o atención al público.

A una IA que percibimos como femenina solemos atribuirle amabilidad, empatía y capacidad para tranquilizarnos. De ahí que la voz por defecto de estas herramientas sea habitualmente la de mujer: tenemos la percepción de que así es más fácil comunicarnos con ellas. Y con las masculinas ocurre lo contrario: los sesgos cognitivos apuntan a una mayor autoridad y firmeza.

Izquierda, Johanna; derecha, Johan. Imagen de ACM Digital Library

La prueba. Un equipo de investigadores de varias universidades europeas, entre ellas la Universidad de Limerick y la de Zúrich, puso a prueba estos sesgos en un experimento sobre tareas profesionales titulado '¿De apariencia humana y masculino? Cómo influye el diseño de los asistentes de IA en la confianza y las recompensas económicas en el trabajo en realidad virtual'. Para ello, equiparon a 189 participantes con gafas de realidad virtual.

En el estudio se probaron cuatro asistentes distintos: un chatbot de texto, un robot de escritorio y dos agentes de aspecto humano llamados Johan y Johanna. Cada participante interactuó con tres de ellos: el chatbot, el robot y uno de los dos avatares humanos. Todos usaban el mismo modelo, GPT-4 de OpenAI.

Mismo trabajo, distinta recompensa. Al terminar las pruebas, los participantes debían valorar la contribución de cada IA al trabajo y asignarle una recompensa económica. Podían entregarle hasta cuatro francos suizos y quedarse con el dinero restante. Los resultados, resumidos, fueron:

• Los sujetos de estudio valoraron de forma similar las aportaciones al trabajo de la IA femenina y la masculina, sin diferencias estadísticamente significativas.
• A la hora de pagar, Johanna, la IA con apariencia y voz de mujer, recibió un 10 % menos de dinero que Johan, el asistente caracterizado de hombre.
• La diferencia en las recompensas se observó en ambos grupos de estudio, aunque fue más acusada entre los participantes masculinos.

Los investigadores encontraron otra contradicción: durante las entrevistas, muchos participantes aseguraron que el género de un asistente no les importaba, que hasta preferían una IA sin género. Sin embargo, sus decisiones económicas reflejaron diferencias.

En Xataka Satya Nadella, CEO de Microsoft: "Nuestro objetivo es llevar inteligencia gratis a cada hogar y a cada escritorio"

Los asistentes con apariencia humana generaron más confianza y recibieron mayores recompensas que el robot, pese a que muchos participantes afirmaron preferir una IA que no pareciera una persona. Todas las herramientas de IA usaron el mismo modelo de OpenAI.

Los sesgos también se entrenan. La falta de diversidad en la industria tecnológica intensifica las diferencias de género. Según datos de la UNESCO, las mujeres ocupan solo el 20 % de los puestos técnicos y representan el 12 % de quienes investigan en inteligencia artificial. Los modelos de lenguaje terminan reproduciendo estas dinámicas durante sus entrenamientos.

Un informe de la UNESCO muestra que los grandes modelos de lenguaje reproducen estereotipos de género, tanto en la generación de texto como en la de imágenes. Otras investigaciones sobre generación de vídeo también han identificado estereotipos entre determinadas profesiones y el género de sus trabajadores.

La IA hereda nuestros prejuicios. El experimento nos deja una lección incómoda: confiamos más en la IA conforme más humana parece, pero también  terminamos trasladándole los prejuicios que aplicamos a las personas. Johan y Johanna compartían tecnología y las mismas tareas. Sin embargo, los participantes no los trataron igual. Aunque el estudio no permite atribuir la diferencia únicamente al género, demuestra que la apariencia de una IA puede influir en cómo valoramos su trabajo.

Vía | jeuxvideo.com

Imagen de portada | Generada y adaptada por IA

-
La noticia Decimos que el género de una IA nos da igual, hasta que llega el momento de pagarle fue publicada originalmente en Xataka por Iván Linares .