Por: Lluís Pla Vargas. 29/09/2023
El análisis de los datos reducidos a etiquetas no nos confirma en nuestra identidad, sino que nos convierte en una ficha, en un punto a añadir en un gráfico junto a millones de puntos
A finales de la década de 1960, poco antes de su muerte, Theodor W. Adorno escribió un largo artículo en el que rememoraba algunas de sus experiencias como filósofo y sociólogo de orientación especulativa durante su exilio en Estados Unidos. Ahí confesaba que, durante todo este período, que se prolongó desde 1938 hasta 1949, no pudo despojarse de sus hábitos europeos, pese a que, desde todas partes, incluso desde el círculo de sus propios compañeros expatriados, le llegaba la consigna de que tenía que adaptarse, rendirse al adjustment. Aunque la experiencia estadounidense le salvó de la muerte, lo cierto es que, en contrapartida, acentuó de una manera peculiar el trauma de la huida de Alemania, alimentó una sensación de extrañeza que se agudizaba con las noticias de la guerra en Europa y del genocidio de los judíos, contribuyó a modular negativamente sus opiniones sobre el mundo y le mostró otra cara de la cultura popular que, no por ser funny, dejaba de ser particularmente siniestra. Algunos de sus mejores libros, como Minima Moralia, o su colaboración con Max Horkheimer en ese texto abismal y demoledor que es la Dialéctica de la Ilustración, los elaboró sumido en este estado de ánimo que combinaba la desubicación, la congoja y la desesperación.
Adorno también dedicaba algunas palabras a recordar su colaboración en el proyecto de la Princeton Radio Research, dirigido por el teórico de la comunicación Paul Lazarsfeld, y a relatar el modo en que sus hábitos mentales y académicos se vieron forzados por la forma en que el proyecto de investigación parecía situarse sin ninguna clase de manías al servicio del Show Business. Se alternaban aquí observaciones sorprendentes, como el hecho de que el proyecto hubiera articulado una sección dedicada exclusivamente al “Likes and Dislikes Study” o al “Success or Failure of a Programme”, y perplejidades sombrías, como la derivada de considerar la investigación administrativa como una rama legítima de la pesquisa científica. En un pasaje concreto, en el que tiene en mente a la radio, el cine y la prensa, Adorno hace una reflexión sobre el lenguaje de estos medios y lo que se denomina cosificación de la conciencia. Señala que el modo en que se han conformado y extendido los medios de comunicación de masas no puede separarse de la transformación de sus productos en bienes de consumo. A su juicio, ello es un resultado lamentable porque tal transformación está en sintonía con una situación espiritual deplorable, a saber, aquella que se corresponde con “una conciencia cosificada, casi incapaz de experiencia espontánea, en sí misma manipulable”.
El modo en que se han conformado los medios de comunicación de masas no puede separarse de la transformación de sus productos en bienes de consumo
Es tentador imaginar qué podría haber dicho o escrito Adorno hoy sobre el mundo de la autocomunicación de masas de Internet y el desarrollo de algoritmos que hacen uso de millones de datos con el supuesto objetivo de mejorar nuestras decisiones personales y colectivas. No sería extravagante formular la hipótesis de que habría insistido en cómo el imperio de los algoritmos, las plataformas y las redes sociales, pese a todos los sermones de sus evangelistas a favor de la diversidad, la gestión eficaz y la predicción exacta, agrava algunas de las tendencias de la cultura de masas a la que veía potencial e irremediablemente orientada hacia el fascismo: la estandarización, la sustitución de las palabras por las consignas, el desplazamiento de éstas por las imágenes, la reiteración sofisticada de los esquemas creativos, el empobrecimiento de la experiencia, la reducción de las identidades a roles predeterminados, la promoción de una nueva conformidad social –en este caso vinculada al uso compulsivo, organizativo, productivo y defensivo del teléfono móvil– y, en definitiva, la ausencia de una libertad que pudiera ser considerada significativa.
En otras palabras, es razonable suponer que Adorno señalaría que nos encontramos en una nueva fase de desarrollo en la cosificación de la conciencia, igualmente mutilada para la espontaneidad y fácilmente dominable. Al menos, ciertas disposiciones y estilizaciones de la existencia parecerían darle la razón. No hay aventura en la primera cita porque antes de tenerla lo sabemos casi todo de la otra persona a través de Instagram. Los mensajes masivos personalizados y no verificados a través de las redes sociales logran que se ganen elecciones o se tomen por asalto las instituciones de la democracia representativa. Un algoritmo que gestiona una aplicación para ligues ocasionales hace bandera de la cosificación porque solicita que indiques de qué parte de tu cuerpo te sientes más orgulloso u orgullosa. Ciertos comportamientos de jóvenes y no tan jóvenes reproducen estereotipadamente la actitud de autosuficiencia, sorna y desapego del influencer. En todos estos casos, se revelaría una cosificación de la conciencia vinculada a lo digital, complaciente con el etiquetado masivo, afín al poder de las imágenes que parecen explicarse a sí mismas y desarrollada a partir de la conexión perpetua con lo que se supone que es la vida auténtica –aunque sea mediada por las pantallas y atrapada en las particulares cámaras de eco que genera la personalización de las búsquedas–. Se trataría, en suma, de una conciencia cosificada perfectamente plegada al uso del big data no sólo como instrumento de ingeniería social, sino también como mecanismo para el control de las poblaciones.
El big data necesita reducir la diversidad de la experiencia a un conjunto de datos analizables y, en el curso de ese proceso, toma a la subjetividad como algo en buena medida fantasmal. En este sentido, actúa a la manera del viejo positivismo, que, por cierto, también fue objeto de las iras de Adorno y de otros pensadores destacados de la Teoría Crítica. La reducción ulterior de los datos a etiquetas se hace con objeto de conformar patrones y usarlos para identificar las necesidades que se hayan previsto: comerciales, biomédicas, de seguridad, etc. No se puede decir que esta operación no pueda tener beneficios tangibles en la detección de las enfermedades o en el control del tráfico aéreo. Pero el análisis de los datos reducidos a etiquetas no nos confirma en nuestra identidad, sino que nos devuelve una identificación: nos convierte en una ficha, en una serie de ítems, en un punto a añadir en un grafo junto a millones de puntos. Sobre la identidad podemos ejercer nuestra soberanía como sujetos, puesto que podemos revisar nuestros fines, pero no podemos hacerlo sobre la identificación generada artificialmente. Y no podemos porque ahora hemos devenido socialmente aquello que el algoritmo ha categorizado. El peligro es que tal categorización no solamente determine sesgadamente el comportamiento de las instituciones y los particulares hacia nosotros, sino también nuestro propio comportamiento y nuestra autopercepción, promoviendo a fijar lo que somos a partir de lo que no hemos decidido explícitamente ser. Y ello a pesar de que hayamos hecho el ejercicio rutinario de consentir en ceder nuestros datos en la habitual pestaña por defecto.
Así pues, estamos etiquetadxs. Y lo estamos porque así lo requiere el algoritmo. Si se me permite una formulación algo forzada de la idea, entonces diría que solo etiquetadxs puede el algoritmo usarnos en su objetivo declarado de mejorar nuestrxs vidas. Como sucede en cualquier función matemática, sustitúyase la “x” por cualquier caracterización manejable o cuantificable –cualquiera que nos parezca compatible con eso que supuestamente somos– y entonces el mecanismo poderoso del algoritmo se pondrá a trabajar para decirnos, a partir de eso íntimo y personal, aunque ya codificado, cualificado o cosificado, qué queremos, qué nos gusta y qué podemos conseguir realmente. De modo que se nos identifica con precisión, pero se hace socavando nuestra identidad no del todo precisa, pero, aun así, valiosa. Y el precio que pagamos, aparte del estrictamente monetario que abonamos en cosas tan triviales como la conexión a Internet o los servicios premium de cualquier aplicación, pasa por arrinconar nuestra identidad a una privacidad irrelevante sin valor de cambio en la circulación social digital. En cambio, nuestra riqueza personal o cultural, nuestros matices y peculiaridades, nuestra mirada o gestualidad, nuestras pecas y cicatrices, nuestro olor y nuestro cansancio, en fin, lo que hace de cada uno de nosotros un individuo distinto y singular, sólo podrá exhibirse en eso que cada vez parece generar más temor y rechazo: la interacción cara a cara, el cruce de las miradas y los cuerpos, el encuentro offline, allí donde nos exponemos al margen de los filtros de imagen, las etiquetas tranquilizadoras y los posts que supuestamente nos narran a la perfección.
Adorno señalaría que nos encontramos en una nueva fase de desarrollo en la cosificación de la conciencia
Algunos autores y autoras ya vienen alertando desde hace algún tiempo de las problemáticas éticas y políticas asociadas con el etiquetado digital. A las críticas de Evgeny Morozov en To Save Everything, Click Here: The Folly of Technological Solutionism (2017) y de Shoshana Zuboff en La era del capitalismo de la vigilancia (2020), puede añadirse ahora el estupendo libro de la politóloga estadounidense Virginia Eubanks: La automatización de la desigualdad (2021). En buena medida, la crítica que comparten todos estos posicionamientos es que los algoritmos pueden decidir por nosotros, pero que no deberían hacerlo. Si delegamos en ellos nuestras decisiones y se producen daños éticos o distorsiones del proceso político, entonces resulta complicado atribuir las responsabilidades correspondientes y reparar estas injusticias. Es claro que el big data necesita de una supervisión humana, pero también lo es que se trata de un conjunto de procedimientos capaces de manejar un volumen de información de tal magnitud que escapa a los mecanismos habituales de control humanos, que suelen ser precarios, finitos y volubles. Las recientes advertencias de expertos y organizaciones sobre los peligros de la Inteligencia Artificial, que emplea los datos masivos de manera frecuente e intensiva, y la exigencia de una regulación y supervisión estricta desde los puntos de vista ético y jurídico, nos indican que, una vez más en la historia del desarrollo tecnológico, nos hemos convertido en aprendices de brujo.
El conocimiento de que los impactos éticos, sociales y políticos del big data son enormes y difícilmente resolubles nos exige pausar esta carrera para intentar comprender al menos algunas de sus implicaciones más arriesgadas y peligrosas. Adorno podría ayudarnos en esta tarea. Y quizá no tanto por la validez de sus razones, hoy ya muy discutidas por teorías alternativas de la cultura, sino más bien por esa actitud vivencial, propia de su condición de exiliado, que recogíamos al principio de estas notas. En Estados Unidos, para preservar su identidad, Adorno se resistió a los nuevos encantos, receló del dinamismo irrefrenable y cuestionó los beneficios aparentes. Análogamente, la nueva normalidad algorítmica no debería implicar ni un entusiasmo entregado ni una aceptación acrítica. Al contrario. Un necesario ejercicio de responsabilidad debería movernos a una cierta forma de resistencia: la resistencia al adjustment.
——————
Lluís Pla Vargas es profesor de Filosofía de la Universitat de Barcelona.
LEER EL ARTÍCULO ORIGINAL PULSANDO AQUÍ
Fotografía: CTXT. Big Data.
