El autobús de la IA.
Por Luis Gómez Peñalver.
Aras Bozkurt y un equipo internacional de expertos han puesto sobre la mesa un manifiesto que nos invita a reflexionar sobre la necesidad de humanizar la enseñanza en estos tiempos un tanto extraños. Por llamarlos de alguna manera. Según su propuesta, lo principal es cómo usamos estas poderosas herramientas para enriquecer la educación, sin perder de vista los desafíos éticos que traen consigo.
Esta preocupación ética encuentra un ejemplo extremo en la investigación de Meredith Ringel Morris (Google DeepMind) y Jed Brubaker (Universidad de Colorado Boulder), recogida por Jordi Pérez Colomé en El País, donde se exploran las perturbadoras consecuencias de los “fantasmas generativos”: réplicas digitales de personas fallecidas creadas por IA que podrían seguir interactuando y hasta generando ingresos después de su muerte. Este ejemplo, que podría parecer sacado de “Black Mirror”, refleja lo urgente que es establecer límites éticos claros frente al uso desenfrenado de la IA.
De dónde están estos límites surge la preocupación por la reciente apertura de Google hacia los menores de 13 años con Gemini IA a través de Family Link, como destaca Mario Bordonaba. Aunque esto podría significar un importante apoyo educativo, también pone de relieve la necesidad de guiar a los más jóvenes en el uso seguro y consciente de estas tecnologías. Y a sus familias. Y a sus profesores. Y a sus profesoras…. Y a sus dirigentes políticos. Y al Papa.
Precisamente en la educación, y ya no hablamos del nuevo Papa, desde un enfoque técnico y práctico, Nanshan Jia, Chenfei Yuan, Yuhang Wu y Zeyu Zheng han desarrollado métodos para mejorar la interpretabilidad de los sistemas de recomendación mediante modelos de lenguaje (LLMs). Su investigación demuestra que es posible aumentar considerablemente la transparencia y eficiencia de estos sistemas, lo que conecta directamente con las preocupaciones éticas planteadas anteriormente.
En este sentido, Enrique Dans aporta una visión optimista pero cautelosa al debate sobre cómo la IA generativa está afectando al mercado laboral. Citando un estudio reciente de Humlum y Vestergaard, Dans concluye que, aunque la IA está transformando profundamente el modo en que trabajamos, aún no se traduce en pérdidas significativas de empleo. Las empresas, más que reducir sus plantillas, están reconfigurando las tareas para aprovechar mejor el talento humano combinado con el poder de la IA.
Por último, Jorge Calvo Martín, ingeniero informático y especialista en IA, subraya la necesidad imperiosa de la interpretabilidad. Recuperando la metáfora de Dario Amodei, CEO de Anthropic que dice tal que así:
“No podemos detener el autobús, pero sí podemos decidir hacia dónde lo conducimos.
Y para poder conducirlo con seguridad, necesitamos ver el tablero de control”.
La solución. Educación. Con tilde en la “o”.
Referencias.
Dans, E. (2024, mayo 6). Beyond the hype: AI is reshaping work, not destroying it. Medium. https://medium.com/enrique-dans/beyond-the-hype-ai-is-reshaping-work-not-destroying-it-fdc3bd04b540
Arxiv. (2025). Large Language Models are few-shot scientific reasoners at scale [Preprint]. arXiv. https://arxiv.org/pdf/2504.11658
20minutos. (2025, abril 26). Google ya permite a menores de 13 años usar su IA: llega Gemini con Family Link. https://www.20minutos.es/tecnologia/inteligencia-artificial/google-ya-permite-menores-13-anos-usar-su-ia-llega-gemini-family-link-5706356/
Sotillos, D. (2025, mayo 7). Así serán los fantasmas con IA: trabajar tras nuestra muerte, aconsejar a los nietos o revelar sin querer una aventura. El País. https://elpais.com/tecnologia/2025-05-07/asi-seran-los-fantasmas-con-ia-trabajar-tras-nuestra-muerte-aconsejar-a-los-nietos-o-revelar-sin-querer-una-aventura.html
Beltrán, C., García, F. J., García-Peñalvo, F. J., & García-Holgado, A. (2024). Artificial intelligence in higher education: Between disruption and ethical concerns. Open Praxis, 16(4). https://openpraxis.org/articles/10.55982/openpraxis.16.4.777
