Top Posts
El 68 mexicano: 1988, 2024
Educación para cuidar el medioambiente
Venezuela. Maduro exhorta a países a no depender...
Promesas y engaños del gobierno, pero sin resultados...
China. De Confucio a la IA: el país...
Ayotzinapa: la esperanza en nueva tecnología y renuncia...
Bolivia. FMI urge cambios en Bolivia y alerta...
¿Por qué destrozaron la calidad educativa?
Valoraciones sobre la situación de Ruth López
Primer round: CNTE desnuda carácter neoliberal de la...
  • Colectivo Insurgencia Magisterial
Portal Insurgencia Magisterial
Banner
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
Espacio principalEspacio secundario

El negocio de la inteligencia artificial amenaza con convertir la ciencia en pseudociencia

por RedaccionA junio 2, 2024
junio 2, 2024
797

Por: Victor Etxebarria Ecenarro, Euskal Herriko. 02/06/2024

Cuando hablamos de inteligencia artificial (IA) debemos orientarnos con rigor a partir de las bases de las ciencias que la soportan. En otras palabras, nunca debemos apoyarnos en las expectativas generadas artificialmente alrededor de nuevos productos que nos intentan vender, así como en la tremenda hipérbole publicitaria (hype) que arrasa todos los medios. Las afirmaciones exageradas sobre sus éxitos dañan seriamente la reputación de la IA como ciencia y la pueden conducir a ser utilizada casi como una pseudociencia, al modo de la astrología, el terraplanismo y la homeopatía.

Veranos e inviernos

El científico Jonathan Grudin publicó en 2009 un artículo en el que ilustraba las bruscas oscilaciones del interés, financiación y avances reales de la IA a lo largo de su historia. En él se recurría a la metáfora de las estaciones del año, que nos permite comprender cómo ha evolucionado la IA desde su nacimiento.

Las cambiantes estaciones de la IA: Fig 1 de J. Grudin (2009) AI and HCI: two fields divided by a common focus. AI Magazine, vol. 30, n. 4, pp: 48-57, DOI: 10.1609/aimag.v30i4.2271.

Ahora, terminando el primer cuarto del siglo XXI nos encontramos en un período álgido, pero no son improbables futuras y profundas simas de inviernos de la IA, dado que aún hay mucho que investigar y comprender sobre esta importante área de conocimiento.

La comunidad científica de este campo es consciente de lo lejos que nos encontramos de modelar verdaderos sistemas nerviosos computacionales o de entender en qué consiste la inteligencia. Estos investigadores también asumen que no hay evidencia –ni matemática, ni física, ni biológica–, ni se conoce la existencia de ningún prototipo equivalente a las capacidades pensantes de un cerebro humano. Por ello aún es necesario gran esfuerzo en múltiples áreas si deseamos avanzar desde la ciencia y con pasos serios y firmes.

Las IA generativas son degenerativas

Los productos más populares de la industria IA en estos últimos tiempos son las “IA generativas” basadas principalmente en redes neuronales computacionales entrenadas con modelos de lenguaje de gran tamaño (LLM). Los ejemplos más conocidos son ChatGPT, MidJourney y Sora, capaces de generar texto, gráficos, sonido y vídeos.

Estas herramientas computacionales son entrenadas con enormes cantidades de datos presentes en internet, producidos por personas que tienen derechos legales de autoría de su material, pero que circula libre por la red.

Muchas empresas tienden a evitar demandas judiciales o a ahorrar costes y utilizan datos generados por sus propias IA para seguir entrenando sus máquinas. Desde las matemáticas se demuestra que este entrenamiento recursivo de la máquina con datos generados previamente por la propia máquina produce un efecto estadístico llamado “colapso del modelo”.

Este colapso da lugar a desinformación, degeneración de contenido, modelos de aprendizaje incorrectos crecientes, e incluso a un posible colapso de internet como fuente confiable.

Sabemos que muchas IA generan contenido con buena apariencia, pero falso. Si un buscador web se basa en una IA generativa como ChatGPT el resultado podría ser muy convincente, pero incorrecto. Si lo damos como válido y no lo comprobamos, y además liberamos ese contenido como entrenamiento para la IA, se llenaría de desinformación a una de nuestras fuentes más importantes de información.

Mala praxis en la industria IA

El negocio IA no se para, aunque la ciencia demuestre que no existe la IA fuerte o general (AGI) y que las herramientas particulares existentes (IA débil) necesitan mejoras significativas para asistir correctamente en la resolución de algunos problemas.

Muchas empresas tecnológicas continúan amplificando el hype para seguir haciendo crecer sus resultados económicos. Por poner unos pocos ejemplos de importantes empresarios del sector que saben que no es posible lo que dicen, podemos citar recientes declaraciones o “predicciones” de Elon Musk y de Mark Zuckerberg, quienes anuncian la inminente introducción de esta inexistente inteligencia artificial general en sus productos.

Una praxis quizás aún más censurable es la fundación por parte de Sam Altman (CEO de OpenAI, creadora de ChatGPT) de la empresa Worldcoin, dedicada a las criptomonedas. Muy llamativa ha sido su campaña en todo el mundo de capturar datos biométricos de personas (mayores o menores de edad) por medio de unos “orbes”, dispositivos atractivos para la juventud, que escanean el iris. La clientela capturada por medio de esta campaña cede sus datos a cambio de un token (un vale digital).

La justificación de Worldcoin es intentar ofrecer, en el futuro, una renta universal en criptomonedas para compensar la pérdida de empleos debido al avance de la IA. Afortunadamente, esta declaración tan burda ha permitido a varios países prohibir su actuación, pero muchos han sido captados ya por la empresa.

El culto de la singularidad

El conocido ingeniero e inventor Ray Kurzweil, autor de muchos libros sobre la IA, las máquinas espirituales y el transhumanismo, escribió en 2005 un gran éxito editorial titulado La singularidad está cerca.

La “singularidad tecnológica” es un hipotético acontecimiento por el que las máquinas superarán en inteligencia a la humanidad.

El argumento de Kurzweil se basa en una idea simplista que denominó “ley de los rendimientos acelerados”, en la que postula que el crecimiento científico y tecnológico es exponencial, como una versión generalizada de la ley de Moore de la industria informática.

Relevantes miembros de la industria y ciencia de la computación, como el propio Gordon Moore (cofundador de Intel) y Paul Allen (cofundador de Microsoft) y Mark Greaves expresaron desde hace muchos años una frontal disconformidad con la predicción de la singularidad. Uno de los motivos es que la neurociencia no funciona como los computadores y que ni siquiera hemos empezado a desvelar las capas de complejidad que nos impiden entender cómo funciona nuestra propia mente.

Kurzweil fundó en 2008 la Universidad de la Singularidad, con sede en California, para “reunir, educar e inspirar a un grupo de dirigentes”. Su libro principal, escrito usando términos científicos, pero dogmático y sin expresar ningún tipo de dudas en sus afirmaciones o profecías, es más bien un texto de fe en su transhumanismo. La Universidad de la Singularidad se parece mucho a otros cultos como la cienciología que han ido surgiendo en el último siglo.

Kurzweil pondrá a la venta en verano de 2024 su nueva secuela: The Singularity Is Nearer, que seguramente se convertirá en un superventas. Anuncia que trata de expandir su universidad con nuevas sedes en Tel Aviv y Sevilla.

El nuevo texto de Kurzweil predice el advenimiento de la singularidad para 2029. Mientras la comunidad científica trata de avanzar en el conocimiento, el negocio de la IA no duda en sembrar la confusión, vender lo que sea y transformar esta ciencia en una peligrosa pseudociencia.

LEER EL ARTÍCULO ORIGINAL PULSANDO AQUÍ

Fotografía: Dialektika

Compartir 0 FacebookTwitterWhatsapp
RedaccionA

noticia anterior
Traducir literatura queer de ciencia ficción taiwanesa al español: Entrevista con Alberto Poza Poyatos
noticia siguiente
Deepfakes de audio y engaños con IA amenazan las elecciones en el mundo

También le podría interesar

China. De Confucio a la IA: el país...

junio 7, 2025

Pensamiento crítico. Cara y ceca de la Inteligencia...

junio 6, 2025

Con la IA, uno de cada cuatro empleos...

junio 3, 2025

Visitantes en este momento:

978 Usuarios En linea
Usuarios: RedaccionEM,314 Invitados,663 Bots

Blog: Perspectivas comunistas

Desde el Plantón magisterial en el Zócalo de la CDMX

Nuestras redes sociales

Blog de la Columna CORTOCIRCUITOS

Nuestros grupos de difusión

Artículos publicados por mes

Síguenos en Facebook

Síguenos en Facebook

Artículos por AUTORES

Artículos publicados por FECHA

junio 2025
L M X J V S D
 1
2345678
9101112131415
16171819202122
23242526272829
30  
« May    

Artículos más leídos esta semana

  • 1

    La CNTE y el acto de desenlatar la lucha de clases en México

    junio 6, 2025
  • 2

    Alto al ataque mediático contra la CNTE, magisterio, organizaciones y sindicatos

    junio 2, 2025
  • 3

    ¡NO NOS VAMOS, SOLO NOS HACEMOS UN POCO MAS A LA IZQUIERDA!

    junio 6, 2025
  • 4

    México. Maestros de la CNTE, continúa la huelga

    junio 4, 2025
  • 5

    Ante la ratificación del Director del Colegio Preparatorio de Xalapa por parte de la USICAMM la Dirección de Bachillerato lo “retira” de manera arbitraria. Comunidad escolar inicia protestas

    junio 3, 2025
  • 6

    Banco Azteca es premiado con 25 % de las AFORES: Pedro Hernández de la CNTE

    mayo 30, 2025
  • 7

    La CNTE: autonomía y movilización en el marco de una hegemonía progresista (3/3)

    junio 3, 2025
  • 8

    Daniela Griego, Presidenta Municipal electa de Xalapa. Recibe su constancia de mayoría

    junio 5, 2025
  • 9

    ¡Quién miente?, ¿la presidenta o la CNTE?

    junio 1, 2025
  • 10

    AFORES: un robo para los trabajadores. ¿Quiénes son y cuántas cuentas controlan?

    mayo 25, 2025
  • 11

    La CNTE: autonomía y movilización en el marco de una hegemonía progresista (2/3)

    junio 1, 2025
  • ¿Cuáles son los elementos de una historieta?

    febrero 15, 2017
  • 13

    EL PROBLEMA DE LA USICAMM ES… ¡TODO!

    mayo 31, 2025
  • 14

    Morir en la tortuosa búsqueda de los 43

    junio 3, 2025

Rolando Revagliatti. Argentina

Raúl Allain. Perú

Juan Antonio Guerrero O. México

Vanesa Monserrat. Argentina

Carolina Vásquez Araya

Ilka Oliva-Corado

Javier Tolcachier

Columna: CORTOCIRCUITOS

Manuel I. Cabezas González

Luis Armando González

Iliana Lo Priore

Jorge Salazar

Adolfo del Ángel Rodríguez

Oswualdo Antonio G.

José Eduardo Celis

Daniel Suárez

Güris J. Fry

Jorge Díaz Piña

Ángel Santiago Villalobos

Andrés Brenner

Alejandra Cortina

José Carlos Buenaventura

Luis Palacios

@2020 - Insurgencia Magisterial

Portal Insurgencia Magisterial
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
Portal Insurgencia Magisterial
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
@2020 - Insurgencia Magisterial

Leer también:x

Noam Chomsky habla sobre ChatGPT. Para qué...

junio 25, 2023

Cultura de paz inteligente en tiempos de...

septiembre 22, 2024

Inteligencia Artificial, fronteras, soledad y diálogos

marzo 2, 2025