Antes de trabajar en inteligencia artificial, ¿por qué no hacemos algo sobre la estupidez natural?» — Steve Polyak.
«El verdadero peligro no reside en que los ordenadores empiecen a pensar como los hombres, sino en que los hombres empiecen a pensar como los ordenadores.» — Sydney J. Harris.
El momento Gutenberg de la IA (Parte II)
En las últimas semanas han circulado en los medios digitales y en las redes sociales diversas notas relacionadas con la (mal) llamada Inteligencia Artificial (IA) que como todas las noticias, tienen un impacto pasajero, ocupan la atención y preocupan a los lectores o espectadores por un rato…hasta que llegan otras noticias más novedosas o llamativas.
Estas notas aparentemente aisladas reforzaron en mí la preocupación por la naturalidad con la que en todos los ámbitos de la sociedad, pero especialmente en el de la educación, están tomando la llegada -o más bien la invasión y la colonización- de esta que aparentemente es solo una herramienta pero que, interpretando la frase de Mc Luhan respecto a que el medio es el mensaje, podemos darnos cuenta de que no es neutral sino que contiene en sí misma una carga ideológica y cultural que si bien puede está aportando algunas cosas positivas sobre todo en campos como la medicina, entraña en su propia naturaleza riesgos enormes para el futuro cercano de la humanidad y para su supervivencia como especie.
La semana pasada compartí en mis redes sociales un artículo publicado en el número reciente de la Revista Latinoamericana de Estudios Educativos (RLEE) en el que trato de ir un paso atrás y ocuparme no de la IA sino del contexto global en el que se enmarca que es el del transhumanismo, que parece ser la promesa renovada de la modernidad en la que se nos ofrece la felicidad, el progreso ilimitado, la mejora sin fin de la humanidad e incluso la muerte de la muerte, a partir de la apuesta por la ingeniería genética y la tecnología informática.
En este artículo propongo las nociones de Cosmópolís y de Identidad futura de Lonergan y Morin respectivamente, como posibles alternativas para reflexionar seriamente, sin cerrarnos a los avances y a la evolución de la humanidad que es una especie siempre abierta, cuáles serían los límites éticos y humanos que podrían ayudarnos a seguir abiertos al desarrollo sin “morir de éxito” como afirma Arana en un excelente artículo sobre las consecuencias antropológicas del transhumanismo, es decir, sin permitir que las promesas de supuesto progreso lineal que elimina la complejidad y la dialéctica propia de todo proceso humano se acaben imponiendo sobre la búsqueda crítica y responsable de humanización y la supervivencia de la educación como el proceso en el que se aprende a ser humano.
Permítanme aquí plantear una sola cara de la moneda: la cara negativa, la zona de obscuridad de la IA para la vida humana, porque es la cara que parece ser que nadie ve ante el deslumbramiento que la cara luminosa -a veces mercadotécnicamente luminosa- de la IA está teniendo en las sociedades actuales, incluyendo a los académicos y las instituciones universitarias que tendrían que ser los espacios de análisis crítico y resistencia activa a los procesos de deshumanización que se viven hoy.
Primer acto: un meme que circuló hace tiempo por las redes sociales decía algo así como: “Si los seres humanos seguimos tomando tanta agua, en unos años nos quedaremos sin inteligencia artificial”. Esta frase que es una especie de enunciado inverso o de lógica inversa, quiere llamar nuestra atención sobre el hecho de que la IA “tiene mucha sed” y consume una cantidad de agua exorbitante que puede poner en riesgo el futuro de los ecosistemas y atentar contra la vida -no solamente humana- en el planeta. Ante este hecho ¿Es posible hablar de un uso ético de la IA cuando su misma existencia está contribuyendo al deterioro ambiental ya de por sí muy avanzado y aparentemente fuera de control?
Segundo acto: “Un robot con forma humana, que estaba siendo sometido a pruebas a cargo de un ingeniero en China, perdió el control y atacó repentinamente al desarrollador que se encontraba con él…” dice la nota del Diario El debate, publicada el 13 de septiembre y que da cuenta de un video que se volvió viral en las redes sociales la semana pasada. La nota describe lo que se aprecia en este video en el que el robot comenzó a lanzar patadas en círculo dirigidas al desarrollador, logrando arrancar el teléfono celular de sus manos y hacerlo caer a unos metros de distancia. Este hecho podría ser planeado o actuado para ganar la atención pero los medios lo reportan como real y verificado y no es la primera ocasión en la que se reportan comportamientos en los que las máquinas parecen actuar al margen y aún en contra de los humanos que las programan. ¿Es viable hablar de un uso ético de la IA cuando sus desarrollos están generando actos como este en los que la tecnología parece adquirir autonomía y volverse destructiva para sus creadores?
Tercer acto: en un tuit -en lo que hoy se llama X- Jacob Coxon (@hilbertspaess) anunció: “Hoy he renunciado a Anthropic. He pasado los últimos tres años realizando investigaciones sobre preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos empresas está actuando de manera responsable. Se dirigen a toda velocidad hacia una superinteligencia capaz de automejorarse y están jugando con nuestras vidas. A continuación, comparto más reflexiones al respecto”. Esta renuncia de un experto que ha trabajado por años desarrollando IA en las más grandes empresas tecnológicas del mundo, debería causar mucho más que likes o retuits y hacernos caer en la cuenta como humanidad de los enormes riesgos de la IA -Coxon habla de que podría volverse incontrolable en el ya inminente año 2030- y generar decisiones al más alto nivel para prevenir esos riesgos que ya habían sido advertidos desde hace años por otros expertos. ¿Resulta razonable reflexionar sobre el uso ético de la IA cuando sus desarrolladores están hablando de que podría poner en riesgo a la humanidad en un futuro muy cercano?
El telón educativo: los resultados de la prueba PISA 2025 aplicada por la OCDE muestran claramente que hay un retroceso en comprensión lectora, razonamiento matemático y ciencias en todo el mundo y entre otras variables deja en claro que el uso de teléfonos celulares y de la IA están incidiendo en la pérdida de capacidades de aprendizaje en los estudiantes. El 46% en promedio de los estudiantes de los países evaluados afirma usar la IA al menos una vez a la semana para actividades escolares, el 40% la usa para sintetizar textos que le dejan leer y una tercera parte la usa para que le redacte ensayos académicos. ¿Es plausible debatir sobre un uso ético de la IA en un escenario en el que la “estupidez natural” está mostrando ser directamente proporcional a su uso en la escuela?
Aunque pretendamos ignorarlo y nos excusemos en las escuelas y universidades en el pretexto de que “la IA está aquí y su uso es inevitable”, limitándonos a hablar de su uso ético, el peligro de que a partir de que los ordenadores estén empezando a pensar como los humanos, nuestros niños y jóvenes están empezando a pensar como los ordenadores, al grado de que Lockhart dice que la pregunta hoy no es ¿En qué clase de humano me convertiré? sino si soy un ser humano Apple, un ser humano Meta o un ser humano Google, porque las grandes empresas están moldeando ya nuestros cerebros.
¿No será que la ética y la IA son como el agua y el aceite?
*La ilustración que acompaña este artículo fue generada con IA