Luces, sombras y estereotipos.
Por Luis Gómez Peñalver.
Otra semana más… más de lo mismo. Mientras algunos centros educativos se plantean seriamente prohibir estas tecnologías en las aulas, como plantea Luis R. Lara en su artículo sobre la tentación de la prohibición, otros investigan cómo utilizar estas herramientas para apoyar el aprendizaje sin comprometer habilidades cognitivas.
Volvemos con el estudio del MIT. Que cada uno interpreta como le conviene. El estudio dirigido por Natalyia Kosmyna destaca cómo estas herramientas potencian aspectos lingüísticos complejos y la creatividad, poniendo de relieve que el problema no radica tanto en la herramienta, sino en cómo y cuándo utilizarla.
Domingo Mendoza propone reimaginar el rol del docente en este nuevo contexto digital. La inteligencia artificial libera a los profesores de cargas administrativas, permitiéndoles centrarse en guiar, mentorizar y diseñar experiencias de aprendizaje más profundas y personalizadas. Creo que ya lo hemos repetido por activa y por pasiva.
Un enfoque compartido por los expertos que participaron en el reciente Congreso Internacional CITeDiTE 2025, organizado por la Universidad Católica de Santiago del Estero, donde se abordó la necesidad urgente de formar docentes competentes digitalmente, capaces de incorporar tecnologías emergentes con una visión crítica y humanista.
Pero esta integración no está exenta de riesgos éticos y culturales. Jordi Pérez Colomé, en su análisis para El País, advierte sobre un fenómeno cada vez más inquietante: los grandes modelos de lenguaje tienden a absorber y replicar los estereotipos presentes en los datos con los que han sido entrenados. Así, no solo se limitan a reproducir prejuicios comunes en inglés o en la cultura anglosajona, sino que los trasladan –a menudo sin matices ni contexto– a otros idiomas y culturas, amplificando y globalizando clichés que antes estaban restringidos a un entorno local.
Margaret Mitchell, investigadora principal del estudio citado por Pérez Colomé, explica que ejemplos aparentemente inofensivos como el estereotipo de “las rubias son tontas”, o que los ingenieros son siempre hombres, se reproducen en distintos idiomas y plataformas. Aún más preocupante es que, cuando se presentan tópicos menos conocidos o se les plantea de forma ambigua, los modelos tienden a improvisar respuestas justificadas por pseudociencia o falsas explicaciones históricas, en lugar de matizar o rechazar el estereotipo.
El estudio reveló también que los modelos son especialmente imprecisos y sesgados cuando operan en lenguas poco representadas en su entrenamiento. Esto puede dar lugar a la difusión de prejuicios más negativos o distorsionados sobre culturas minoritarias, generando un impacto real en la percepción social de comunidades enteras. Para intentar paliar este problema, el equipo de investigación ha creado una base de datos, Shades (sombras), que permite identificar y medir en qué áreas flaquean los modelos de IA a la hora de captar los matices culturales.
Esto recuerda inevitablemente la anécdota de Tay, el bot conversacional lanzado en 2016 por Microsoft que, en menos de 24 horas, adoptó comportamientos racistas y sexistas por interactuar sin filtros con usuarios de Twitter. Una experiencia que Microsoft tuvo que retirar rápidamente, demostrando cuán importante es el entrenamiento ético y crítico de la inteligencia artificial. Y de eso hace ya…nueve años.
Repitan conmigo. La solución: Educación. Con mayúscula. Y tilde en la “o”.
Referencias
El País. (2025, 24 de junio). La IA ayuda a diseminar estereotipos nuevos entre culturas. El País. https://elpais.com/tecnologia/2025-06-24/la-ia-ayuda-a-diseminar-estereotipos-nuevos-entre-culturas.html elpais.com+1elpais.com+1
Educom. (s. f.). ¿Se debe prohibir la IA en el aula? Educom. https://educom.com.ar/se-debe-prohibir-la-ia-en-el-aula/ infobae.com+5educom.com.ar+5facebook.com+5
InfoArenales. (2025, 23 de junio). Inteligencia artificial y educación: ¿qué impacto tiene en el cerebro usar IA para estudiar? InfoArenales. https://infoarenales.com/2025/06/23/inteligencia-artificial-y-educacion-que-impacto-tiene-en-el-cerebro-usar-ia-para-estudiar/
