Por: Nieves y Miró Fuenzalida. 28/08/2024
El reflejo de nuestra imagen en el espejo ha sido, desde Ovidio hasta nuestros días, una fuente de continuo misterio y fascinación en el arte y la literatura que revelan una intrincada identidad y autoconsciencia. No sólo un rostro exterior, sino una ventana al complejo funcionamiento de nuestra mente.
Un sofisticado instrumento para profundizar la difusa línea entre la fantasía y la realidad. En breve, un lienzo para la introspección y la experiencia humana. A lo largo de la historia la metáfora se ha servido para comparar dos cosas que no son literalmente del mismo tipo pero que tienen características paralelas que permiten que nuestra comprensión de una cosa se traslade e ilumine la otra.
Hoy día la escritora Shannon Vallor la usa para explorar la relación entre ética y tecnología. Según su interpretación los sistemas de IA más avanzados son inmensos espejos que reflejan nuestra propia inteligencia. Ellos no piensan por sí mismos sino que reflejan nuestros pensamientos, juicios, deseos, necesidades, percepciones, expectativas, valores e imaginación.
En este sentido, la IA no es tanto un enemigo externo que nos puede reemplazar, como algunos críticos creen, sino una amenaza que proviene del interior de nuestra propia humanidad. Lo que hace es amplificar, extraer e impulsar los poderes dominantes y los patrones registrados con más frecuencia en nuestro pasado, algo que refuerza la idea de que la tecnología está bien lejos de ser neutral.
La imagen en el espejo, dice Vallor, no es un duplicado, una copia o una imitación. El cuerpo que aparece en él no es un segundo cuerpo que ocupa espacio en el mundo junto con el mío. No una copia de mi cuerpo. Ni siquiera una pálida imitación de mi cuerpo.
El cuerpo-espejo no es un cuerpo en absoluto. Los reflejos no son cuerpos. Del mismo modo los sistemas de IA actuales entrenados en el pensamiento y el comportamiento humano no son mentes. Son algo nuevo y propio. Algo así como un espejo. No producen pensamientos ni sentimientos, como tampoco los espejos producen cuerpos.
Lo que producen es un nuevo tipo de reflexión. En un sentido limitado pueden crear, producir nuevas variaciones a partir de datos existentes.
Expresar es diferente. Expresar es dar existencia a algo que habla de otra cosa. Una herramienta de IA puede crear una nueva escultura o una nueva forma abstracta. Pero… ¿qué puede expresar a través de ellos? Expresar es tener algo dentro de uno que necesita salir… ¿cuál es el dentro de la imagen en el espejo?
De hecho, el espejo no ofrece un reflejo completo de quienes somos ni es tampoco la perspectiva más privilegiada y veraz de nuestro ser. Sus imágenes no poseen sonido, ni olor, ni profundidad, ni suavidad, ni miedo, ni esperanza, ni imaginación.
Los espejos no solo nos revelan. Nos distorsionan, escinden y aplanan. Si sólo veo en mí lo que dice el espejo, no me conozco en absoluto. Y si la IA es hoy uno de nuestros espejos más poderosos, debemos a lo menos tratar de comprender cómo sus distorsiones y lagunas oscurecen nuestra autocomprensión y visiones del futuro…
¿Qué aspectos de nosotros mismos, individual y colectivamente, por ejemplo, muestran los espejos de la IA, más allá de nuestros prejuicios arraigados contra nuestra propia especie? ¿Qué aspectos nuestros dejan sin reflejar?
Lo que vemos en realidad son los reflejos de lo que los humanos valoraban lo suficiente como para registrarlo en datos. Pero no todos los humanos. Lo que muestran no son los reflejos neutrales de una realidad humana compartida sino los valores de un pequeño grupo que históricamente ha tenido el poder de dar forma a los patrones dominantes.
Los modelos actuales de aprendizaje automático reciben y reflejan cantidades discretas de datos. Los datos, como dice Vallor, son su única luz y se pueden encontrar en diferentes formas: fijos o en imágenes de video, archivos de sonido, cadenas de textos, números, y símbolos reducidos a valores binarios discretos.
Pero gran parte de lo que es verdad sobre la familia humana no se puede representar actualmente en forma digital con un grado aceptable de fidelidad.
Considera el simple hecho de la espontaneidad y adaptabilidad. Las predicciones de la IA proyectan nuestro futuro en función de nuestro pasado y del pasado de otros como nosotros. En el futuro seremos esencialmente lo que hemos sido. Pero lo que podríamos ser lo que transformaciones, renacimientos o renovaciones posibles se quedan.
Otros investigadores han notado desde hace algún tiempo que los espejos de la IA son profundamente conservadores. Están literalmente construídos para conservar los patrones del pasado y extenderlos a nuestro futuro. No pueden predecir lo que es conocido como el evento “cisne negro”: el cambio sin precedente, el advenimiento histórico de una configuración radicalmente nueva.
Y, hablando de adaptación, una de las dimensiones repetitivas de la IA que actualmente está ocurriendo a escala global es la “adaptación inversa”. En lugar de diseñar máquinas para apoyar fines humanos, se reclutan humanos para hacer lo que sea necesario para aumentar y adaptarse a las capacidades de las máquinas y comportarse cada vez más como robot.
Los algoritmos cada vez más sofisticados de la IA ahora determinan y dan forma a lo que leemos y escribimos, lo que miramos y escuchamos en línea, con quien estamos invitados a reunirnos o salir, quien nos contratará, etc.
Desde el momento en que estos mecanismos de poder social son socialmente significativos, no es sorpresa descubrir que estos desarrollos plantean nuevas y urgentes cuestiones políticas, epistemológicas y morales. Cada vez se hace más difícil entender exactamente cuándo, cómo, y con qué autoridad, estos algoritmos -corrompidos por prejuicios históricos- influyen profundamente en nuestras vidas.
Los instrumentos inteligentes actuales, ávidos de datos, son construidos por poderosas corporaciones para “deleitarse como parásitos insaciables con nuestras propias palabras, imágenes y pensamientos despojados de sus raíces humanas en la experiencia vivida y volver a alimentarnos con ellas como sustitutos vacíos de nuestras propias mentes”.
Sólo un puñado de empresas multinacionales de tecnología compiten ahora con los gobiernos como potencias mundiales, al tiempo que poseen las plataformas que estructuran y dan forma a la cultura mediática y las conversaciones públicas que supuestamente legitiman el poder democrático.
Estos espejos que hoy dominan el espacio cibernético no son todo lo que tenemos. Muchos otros tipos de IA, según Vallor, pueden servir como herramientas científicas y comerciales. Pero aún así ¿Podrían algún día hacer más? ¿Podrían respaldar nuestras capacidades de justicia y solidaridad, no solo con nosotros, sino también con otras formas de vida?
Podemos construir IA para reflejar y reemplazar sistemáticamente la inteligencia humana con un facsímil moldeado por una máquina… o podemos construir IA para ayudar y liberar genuinamente nuestro potencial humano. Hoy nos encontramos en un momento crítico…
¿Haremos realidad una vez más las imágenes fantasmales que aparecen en nuestros espejos digitales de imperio, extracción y dominación? ¿O deberíamos imaginar algo más que hacer con nosotros mismos, digamos, algo nuevo?
Realísticamente no es posible reconstruir un mundo sostenible y floreciente para ocho mil millones de personas sin la ayuda de los avances tecnológicos. No podemos caer en la nostalgia retrospectiva de un mundo pre digital o, peor aún, preindustrial.
Pero tampoco las soluciones meramente tecnológicas son suficientes para el florecimiento humano. Lejos de aliviar la actual crisis, la fe ingenua en la tecnología para resolver nuestros problemas, en ausencia de principios morales y justicia social, solo empeorara las cosas.
Como todas las tecnologías, los espejos no sólo nos reflejan. También nos cambian. Ellos llaman la atención sobre cosas que de otro modo podríamos haber ignorado. Muestran cosas que no podríamos ver fácilmente sin ellos y, por lo tanto, abren nuevas posibilidades de acción y crean igualmente nuevas responsabilidades morales y políticas.
* Profesores de Filosofia chilenos graduados en la Universidad de Chile. Residen en Ottawa, Canadá, desde el 1975. Nieves estuvo 12 meses presa en uno de los campos de concentración durante la dictadura de Augusto Pinochet. Han publicado seis libros de ensayos y poesía. Colaboran con surysur.net y el Centro Latinoamericano de Análisis Estratégico (CLAE, www.estrategia.la)
LEER EL ARTÍCULO ORIGINAL PULSANDO AQUÍ
Fotografía: Sur y sur
