Lorena Fernández, ingeniera informática y experta en ética tecnológica, ha participado en el pódcast *Somos Estupendas", con una entrevista en la que advierte de los riesgos de recurrir a los chatbots de IA como sustitutos de una terapeuta y señala que estos sistemas pueden reproducir sesgos de género en sus recomendaciones.
La Organización Mundial de la Salud (OMS) ya ha advertido de que los modelos de IA generativa pueden ofrecer respuestas falsas, sesgadas o incompletas con apariencia de autoridad, un riesgo creciente a medida que más personas los usan también para compartir problemas emocionales.
Lorena Fernández recuerda que la sensación de comprensión que transmiten estos sistemas no equivale al acompañamiento de una profesional: "Son grandes sistemas que simulan conversaciones", entrenados además para evitar la fricción con el usuario: "Están entrenados para darnos la razón, no para llevarnos la contraria. Esa ausencia de contraste, advierte, puede limitar el aprendizaje que sí ofrecen las relaciones humanas, aunque no sean perfectas.
La especialista vincula la confianza excesiva en la IA con el sesgo de automatización, una tendencia a asumir que una respuesta generada por una máquina es más objetiva que la de una persona. Como ejemplo, cita las recomendaciones laborales, en los que hay modelos de IA que, si saben que eres mujer, te aconsejan negociar un salario más bajo que si eres hombre.
La advertencia coincide con dos estudios recientes. Uno, publicado en arXiv y aún sin revisión por pares, evaluó cinco modelos de lenguaje y detectó cifras salariales inferiores para las mujeres al variar el sexo, el origen o la situación migratoria del perfil. Otro, revisado por pares y publicado en PLOS ONE, sometió cuatro versiones de ChatGPT a 395.200 consultas y halló que, preguntado desde la perspectiva del trabajador, el sistema recomendaba de media unos 1.000 dólares más con pronombres masculinos que con femeninos.
Para Fernández, lo más preocupante es que estos sesgos son difíciles de detectar porque las respuestas se presentan como individualizadas: "Hay una mirada codificada que es invisible, pero que realmente está tomando decisiones de cuáles son las vidas universales o que representan a todo el mundo".
Fuente: La Vanguardia