Por: Revista Philosophie. Traducción realizada con «translate» de Google. 01/02/2023
Para el filósofo Pierre Cassou-Noguès , autor del ensayo La Bienveillance des machines (Seuil, 2022), las promesas del sistema de lenguaje computarizado ChatGPT desarrollado por OpenAI sirven sobre todo para atraer inversores, al tiempo que ocultan problemas sociales y políticos reales.
Vivimos con ChatGPT la enésima promesa de cambiar a una era donde la inteligencia artificial cambia de naturaleza y superará definitivamente las capacidades humanas. Desde las hazañas del superordenador Deep Blue -que venció al campeón mundial de ajedrez Garry Kasparov- o más recientemente las de AlphaGo , Silicon Valley nos vende este mito de la Singularidad , la profecía del punto de inflexión en un nuevo mundo dominado por la maquinaria. Este discurso es una forma de atraer la atención de los medios e inversores. Es una estrategia económica y hay que tener cuidado.
Verdadero de falso por escrito
¿Qué hace ChatGPT? Produce secuencias de palabras. Este es un algoritmo que calcula la continuación más probable de un texto. Puede producir disertaciones de filosofía, artículos, novelas o incluso una receta de cocina.
Las aplicaciones conversacionales existen desde hace mucho tiempo. Ya en 1963, el informático Joseph Weizenbaum había desarrollado Eliza , un programa capaz de reiniciar una conversación rebotando sobre tal o cual palabra. ¡Tanto que su secretaria lo usó como psicoanalista! Más recientemente, el artista Grégory Chatonsky usó una aplicación para escribir novelas. ChatGPT, por otro lado, parece aún más preciso. Los ensayos parecen relativamente creíbles, pero necesitamos tiempo para evaluar su relevancia. Incluso si la base de datos es enorme y la Wikipedia en inglés constituye solo el 0,6% de su memoria, esperemos y veamos si las respuestas finalmente no se estandarizan.
“ChatGPT no eximirá a los estudiantes de hacer ensayos: lo importante es la formación del pensamiento, no el ejercicio formal como tal”
Pierre Cassou-Nogués
Y entonces, ¿qué podría cambiar tal aplicación en la práctica? Uno puede imaginar que una máquina termina produciendo excelentes disertaciones. Esto no eximirá a los estudiantes de hacer ensayos: lo importante es la formación del pensamiento, no el ejercicio formal como tal. Más aún, uno podría imaginar que esta inteligencia artificial produciría historias de detectives bastante agradables. Pero eso no le quitaría nada a nuestro deseo y capacidad de escribir. El problema de la literatura no son estas apps, es TikTok, son las pantallas que nos anclan en una temporalidad corta e hipnótica y nos hacen incapaces de concentrarnos en textos largos.
¿Libérate de tareas alienantes?
Cada vez es más claro que estas aplicaciones de IA pueden amenazar a un cierto número de profesiones, como cierto periodismo donde escribir un artículo consiste en formatear ciertos datos de una manera clara y educativa. Estoy pensando en artículos financieros o simples reportajes deportivos. Pero uno podría preguntarse si esto es realmente un problema. Después de todo, cada vez hay menos cajeros en los supermercados debido a la aparición de las cajas automáticas.
“Si un periodista produce información, una inteligencia artificial produce ‘contenido’ y no le importa la verdad”
Pierre Cassou-Nogués
Incluso podemos pensar que la automatización es algo bueno. Finalmente, si una máquina puede sustituir a un humano en determinada tarea es porque es mecánica y precisamente aliena lo humano que hay en nosotros. Sólo es necesario entonces que el tiempo así liberado se distribuya equitativamente, es decir que el humano que es sustituido por una máquina pueda vivir dignamente sin este trabajo para dedicarse a otra cosa que puede ser totalmente inútil, improductiva: haciendo poesía, matemáticas o soñando…
¿El camino abierto a infox?
Sin embargo, aparte de que la mecanización en la actualidad no conduce a una distribución equitativa del tiempo y la riqueza (más bien al contrario), tampoco es aceptable para todos los oficios. Si un periodista produce información, una inteligencia artificial produce “contenido” y no le importa la verdad. ChatGPT pega palabras una tras otra según una lógica probabilística. Cualquiera podrá generar muchas historias creíbles muy rápidamente sobre cómo las vacunas no funcionan o la Tierra es plana.
Que una máquina pueda hacer un reportaje de una etapa del Tour de Francia no es malo en sí mismo, quizás haga que los diarios deportivos quieran publicar historias reales, como las que contaron en su momento Antoine Blondin o Dino Buzzati , en particular Sur le Giro . 1949 . Pero el uso masivo de este tipo de programas para producir infox de forma industrial, representa un peligro, el de ahogar la realidad detrás de un mundo digital cada vez más atravesado por engañosos simulacros.
“La distopía puede no ser que los humanos sean despojados de sus tareas sino que las máquinas se vuelvan accesibles solo para unos pocos”
Pierre Cassou-Nogués
En última instancia, tenemos que considerar que la energía y las tierras raras costarán cada vez más. Es posible que esta omnipresencia de las pantallas, esta accesibilidad universal a las técnicas más sofisticadas, que todo esto al final sea muy breve. La distopía puede no ser que los humanos sean despojados de sus tareas, sino que las máquinas se vuelvan accesibles solo para unos pocos, para los monopolios que las usarán para su influencia o su propaganda.
Fotografía: philomag