Por: Raquel C. Pico. 21/01/2025
Los avances en tecnología están abriendo la posibilidad de monitorear a la ciudadanía y penalizar los malos hábitos. La gran cuestión es si hacerlo es realmente ético.
No se sabe muy bien qué hay más allá de las puertas de Arcadia, la cúpula en la que viven los habitantes de una Europa postapocalíptica. Solo que es aterrador. Las personas que viven allí reciben puntos por sus trabajos, su papel en la comunidad o sus hábitos de alimentación. Tener muchos puntos da acceso a mejores casas o mejores sitios en el bus. Tener muy pocos bloquea el acceso a la sanidad o a los servicios públicos y, finalmente y cuando bajen del mínimo posible, los expulsará de la cúpula a un inhóspito exterior. La idea es, por supuesto, ciencia ficción: es la premisa de una serie belga-holandesa (Arcadia), que arranca con la expulsión de esa sociedad de un padre que manipula la puntuación de sus hijas para protegerlas.
Los sistemas de puntuación social son, en general, material de partida para no pocas historias distópicas. Son realidades a lo Black Mirror: la serie británica que se adelantó a tantas cuestiones problemáticas del presente que comparar los fracasos de la tecnología con sus tramas se ha convertido en un lugar común en los medios. Uno de sus episodios exponía qué le ocurría a Lacie cuando empezaba a perder puntos en el sistema que regía el acceso a los servicios. Por más que intenta recibir valoraciones positivas, entra en un bucle de rechazos. Y le pasa factura.
Pero ¿cuánto de distopía y cuánto de realidad hay en todas estas historias? ¿Es posible que aparezcan sistemas que puntúan el valor de cada quien y que se vayan ajustando según cómo se comportan? Técnicamente, los sistemas de puntuación social son factibles. En cierto modo, muchas herramientas que gamifican nuestra vida hacen un poco eso, aunque las consecuencias que tiene perder puntuación no son tan drásticas como la expulsión a un peligroso exilio.
Más allá de las historias distópicas, los sistemas de puntuación abren muchos dilemas éticos
Como solución que siga los hábitos de vida de la ciudadanía y premie (y penalice) las actividades de cada uno, los sistemas de puntuación abren muchos dilemas éticos. En la Unión Europea, de hecho, la «puntuación social con fines públicos y privados» ha entrado entre los «riesgos inadmisibles» en la Ley de Inteligencia Artificial. Un sistema de crédito social sería, por tanto, imposible. La legislación comunitaria es exigente y prioriza los derechos de la ciudadanía y su privacidad. En otras zonas y en otras legislaciones la realidad es otra y los sistemas de puntuación social han empezado a aparecer. Es lo que ocurre en China.
China es un país altamente tecnologizado y conectado, como recuerda el documental de la televisión pública alemana China, Surveillance state or way of the future? En cada distrito de Shanghái, ejemplifican, hay un data hub al que llegan de forma constante datos que permiten tomar todo tipo de decisiones. Si alguien está tirando mal la basura, lo sabrán y lo castigarán. ¿Es una manera de garantizar la paz social y el bienestar? ¿O es, por el contrario, una vía para controlar en todo momento a la población? Ese es el gran tema para el debate.
En 2018, según datos de la prensa china recuperados por el documental, la administración del país reconoció que era capaz de identificar a todas y cada una de las personas de una calle en cuestión de segundos. Las ciudades están llenas de cámaras, la ciudadanía vive desde su smartphone (se usa tanto para pagar como para escanear códigos de acceso, con lo que todos sus pasos dejan un registro) y la ultraconectividad hace que todo esté generando datos a cada minuto. En todo momento, cada persona está generando una huella digital que permite hacerle un seguimiento en tiempo real.
Con todos esos datos, hacer un sistema de puntuación social es fácil. China lo está probando: no opera en todo el país, sino en zonas en modo piloto. «La idea es que, si acumulas puntos, puedes utilizarlos para beneficiarte de accesos privilegiados a determinados servicios públicos», explica el profesor de Derecho de la Universidad de Tsinghua Xin Dai. Hacer ejercicio, donar sangre, devolver los libros a tiempo a la biblioteca o usar un transporte de bajas emisiones son algunas de las cosas que dan puntos en las ciudades que lo han puesto en marcha, según el documental. No pagar los impuestos a tiempo o no respetar las normas de circulación restan.
Y también se plantean las voces críticas. Al fin y al cabo, como descubrió hace un par de años una investigación de The New York Times, China está creando algunas de las bases de datos más grandes del mundo: se nutren con datos de su población.
Para algunos, el sistema podría no ser tan terrorífico como se ha asumido fuera de China, como señala un análisis del MIT Technology Review, sino más bien un mix de puntuación de riesgo crediticio, interconectividad de datos y promoción de valores positivos (aunque qué son exactamente esos valores positivos sería material para el debate, según reconoce el propio análisis). «No hay evidencia de que se haya abusado de este sistema para un control social amplio (aunque sigue siendo posible que pueda ser usado para intentar restringir los derechos individuales)», afirma la revista tecnológica.
LEER EL ARTÍCULO ORIGINAL PULSANDO AQUÍ
Fotografía: Ethic. Mariana Toro
