Top Posts
El 68 mexicano: “El tiempo que nos tocó...
México y la batalla comunicacional en tiempos de...
Polonia. Quién es Karol Nawrocki, el nuevo presidente...
Bukele reconoce que le estorban los tratados de...
Ante la ratificación del Director del Colegio Preparatorio...
Con la IA, uno de cada cuatro empleos...
«Ahora nos toca aplicar la democracia directa»
Morir en la tortuosa búsqueda de los 43
Pensamiento Crítico. Bolivia. Rafael Bautista: ¿cómo se oferta...
Meta se va a la guerra
  • Colectivo Insurgencia Magisterial
Portal Insurgencia Magisterial
Banner
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
Espacio principalEspacio secundario

El derecho a transgredir

por RedaccionA julio 27, 2023
julio 27, 2023
651

Por: Samuel Witteveen Gómez. 27/07/2023

Si las actuales herramientas de IA prosperan, nadie podrá robar en el supermercado, colarse en el metro o pisar de más el acelerador del coche. Más que el triunfo de la ley, será la sustitución de la justicia por una tiranía ciega

Existen supermercados donde las cámaras de seguridad señalan por sí solas a quienes cometen un hurto. Mediante inteligencia artificial estas cámaras son capaces de identificar los gestos y las actitudes que suelen acompañar a la sustracción de algún producto. Sucede en países como Estados Unidos y Japón. También hay estaciones de tren y metro, en Cataluña por ejemplo, donde las cámaras alertan si algún pasajero accede sin billete.

Además, se espera que cada vez más vehículos incluyan sistemas que reducen la velocidad automáticamente cuando el conductor supera el límite permitido. Son algoritmos, asimismo, los que a menudo se ocupan de detectar y penalizar el fraude fiscal. Y un juez en Colombia ha materializado un horizonte con el que algunos juristas sueñan al recurrir a ChatGPT para escribir una sentencia.

Estos ejemplos, por dispares que parezcan, señalan una misma tendencia: la automatización de la ley. Ante las posibilidades que nos ofrece la tecnología, resulta tentador invertir en sistemas que ayuden a garantizar el cumplimiento de las normas. Y si estas herramientas realmente prosperan podría llegar un día donde nadie, independientemente de su situación, pueda robar en el supermercado, colarse en el metro o pisar de más el acelerador del coche. Pero esto, más que el triunfo de la ley, puede suponer el fin del derecho como práctica de una comunidad moral y su sustitución por algo más bien parecido a un molde, a un túnel, a una tiranía ciega.

Tal cúmulo de amenazas justificará para muchos que las autoridades deleguen el control a sistemas automatizados

Es, además, en el contexto de los grandes retos que afrontan los Estados donde se debe entender el riesgo de la automatización. Problemas de enorme alcance como el cambio climático, migración, pandemias y amenazas terroristas encuentran a menudo en boca de políticos y empresarios su correspondiente solución en la promesa de control que nos brinda la tecnología. Una unión entre urgencia y coacción parece ser la seña de nuestro tiempo, una unión, a todas luces, temible.

Tal cúmulo de amenazas justificará para muchos que las autoridades deleguen el control a sistemas automatizados, los únicos, posiblemente, capaces de aplicar normas a gran escala. Existe, sin embargo, una diferencia insalvable entre el acatamiento de una ley (por convencimiento o por simple sumisión) y la incapacidad de transgredirla (porque la arquitectura del poder solo permite su cumplimiento).

El filósofo Maxim Februari explica en su último libro que las máquinas, a diferencia de nosotros, no son sujetos morales que actúan desde la responsabilidad. Por ello tampoco son capaces de ver y entender que nosotros, sobre quienes ellas deciden, sí somos seres morales. “Las máquinas” escribe Februari “no están en lo más mínimo preocupadas por la verdad de nosotros como personas, ni se preocupan por entender, lo único que persiguen es funcionar: realizar operaciones”.

Así, por severo que pueda llegar a ser un revisor de metro, éste siempre será infinitamente más compasivo que un sistema automatizado. El revisor, a diferencia de la máquina, tiene la capacidad de comprender que hay razones para colarse en el metro, que cada pasajero representa un caso particular. La máquina, en cambio, no ve personas, no ve historias ni necesidades, tan solo es capaz de detectar aquellos indicadores que posibilitan su idéntica operación.

Ramón López de Mántaras, experto en inteligencia artificial del CSIC, denunciaba recientemente en una tribuna el error extendido de atribuir a la tecnología características humanas. “Creemos que la IA prácticamente no tiene límites cuando de hecho es extremadamente limitada y, lo que es muy importante, no tiene nada que ver con la inteligencia humana”. A pesar de las virtudes y utilidades de estas herramientas, Mántaras advierte que la inteligencia artificial, en realidad, no es inteligente sino que realiza tareas sin poder comprenderlas. Aunque la IA sin duda pueda ser más hábil que nosotros realizando operaciones concretas, carece del conocimiento complejo del mundo que cualquier persona posee.

Y es que el mundo funciona en gran medida gracias a procesos informales, experiencias y gestos que no son cuantificables. Incluso la persona más bruta conoce una inmensidad de sentires completamente ajenos a la máquina, sentires que en todo momento informan sus actos. La empatía, la indignación, la duda, el conflicto, la flexibilidad, el temor, la paciencia, la justicia. Quienes, ignorando todo ello, equiparan la máquina con el humano, toman las capacidades de la máquina como criterio y desprecian aquello que distingue a lo vivo de lo inerte. La historia nos muestra, además, que ignorar la importancia de los procesos informales conduce una y otra vez al desastre.

La aplicación mecánica de la ley contradice asimismo los principios del Estado de derecho. Lo que diferencia un Estado de derecho de cualquier modelo autoritario es que el poder está sujeto a garantías. Las decisiones no reposan simplemente en la autoridad, sino que deben ser legítimas y justificables. La primacía del derecho sobre el poder implica, por tanto, la existencia de una comunidad inmersa en una práctica constante de apelar, interpelar, decidir y justificar. Renunciar a ello en pos de un orden cerrado conlleva disolver la comunidad y suspender el derecho. Cuando hablamos de automatización no hablamos por tanto de una mera sofisticación sino de un modo radicalmente diferente de gobernanza. 

La aplicación mecánica de la ley contradice asimismo los principios del Estado de derecho

La ley es incompatible con lo mecánico. No existe ley aplicable a todos los casos pues la norma necesariamente requiere, una y otra vez, interpretación y ejecución. Februari recurre a la historia de dos miembros de la resistencia holandesa en la Segunda Guerra Mundial para ilustrar esto. Dice la anécdota que estos dos partisanos capturaron a un miembro de la SS que se dedicaba a delatar a otros en su pueblo. Cuando tuvieron a este hombre en su poder quisieron matarlo pero les asaltó la duda de si hacían lo correcto. Así que acudieron al cura y le consultaron si está permitido matar a un nazi. El cura les respondió: “En realidad, no”. 

En la breve respuesta del sacerdote está encerrado todo ese terreno propiamente humano que resulta incomprensible para las máquinas. Pues el cura no toma simplemente el quinto mandamiento y les prohíbe matar sino que les informa del contenido de la ley y añade ese “en realidad’”, que es la apertura a la excepción. Entre la ley universal (no matarás) y el caso concreto y apremiante (mientras siga viva esta persona delatará a otros), los dos partisanos cargan con la responsabilidad de decidir de la forma más justa. La ley no puede simplemente aplicarse porque primero debe atravesar aquellas historias particulares para poder materializarse. Es a lo que se refería Franz Rosenzweig cuando escribió: “La ley es entregada al hombre, no el hombre a la ley”. 

El problema de dejar tareas de gobernanza en manos de la inteligencia artificial no es solo que ésta resulta a menudo susceptible de sesgos y errores. Por mucho que se llegue a perfeccionar el algoritmo y a pulir los datos, un sistema automatizado jamás igualará la capacidad interpretativa humana. La diferencia entre la inteligencia artificial y la humana no es cuantitativa, sino cualitativa. 

Por supuesto que la tecnología puede asistirnos en tareas anodinas, por ejemplo, a la hora de encontrar u organizar información y esto puede aliviar los juzgados y agilizar los procesos. La decisión de un juez, en cambio, no debería realizarla un sistema de inteligencia artificial generativa (como el ChatGPT) pues por mucha jurisprudencia que la herramienta sea capaz de moldear, nunca podrá comprender aquello de lo que realmente se trata: impartir justicia. 

El juez es el enlace entre la legislación y el caso particular y en cada una de sus decisiones debe introducir un elemento original. Una norma aplicada automáticamente puede crear ilusión de ecuanimidad pero en realidad sucede lo contrario: se impone una misma interpretación a casos diferentes. La justicia precisa de un miramiento especial en cada caso, un instante de peligro donde la doctrina se asoma a la profundidad de la vida. Jacques Derrida lo expresó así en Fuerza de ley: “La ley es el elemento de cálculo, mientras que la justicia es incalculable, requiere que calculemos con lo incalculable”.

LEER EL ARTÍCULO ORIGINAL PULSANDO AQUÍ

Fotografía: CTXT. Fotograma de la película Yo, robot (2004). / Alex Proyas

Compartir 0 FacebookTwitterWhatsapp
RedaccionA

noticia anterior
El boom del litio en Europa presiona los ecosistemas de los países sudamericanos
noticia siguiente
Comienza en Suiza el encuentro internacional anarquista

También le podría interesar

Con la IA, uno de cada cuatro empleos...

junio 3, 2025

Visión general, análisis e imagen creada por  ChatGPT-IA-,...

junio 2, 2025

La IA también sabe persuadir mejor que las...

mayo 31, 2025

Visitantes en este momento:

1.169 Usuarios En linea
Usuarios: RedaccionEM,650 Invitados,518 Bots

Blog: Perspectivas comunistas

Desde el Plantón magisterial en el Zócalo de la CDMX

Nuestras redes sociales

Blog de la Columna CORTOCIRCUITOS

Nuestros grupos de difusión

Artículos publicados por mes

Síguenos en Facebook

Síguenos en Facebook

Artículos por AUTORES

Artículos publicados por FECHA

junio 2025
L M X J V S D
 1
2345678
9101112131415
16171819202122
23242526272829
30  
« May    

Artículos más leídos esta semana

  • 1

    AFORES: un robo para los trabajadores. ¿Quiénes son y cuántas cuentas controlan?

    mayo 25, 2025
  • 2

    Banco Azteca es premiado con 25 % de las AFORES: Pedro Hernández de la CNTE

    mayo 30, 2025
  • 3

    EL PROBLEMA DE LA USICAMM ES… ¡TODO!

    mayo 31, 2025
  • 4

    La CNTE, la 4T y el fantasma de la irreformabilidad del neoliberalismo

    mayo 29, 2025
  • 5

    La primavera no se alquila: dignidad magisterial y respeto a la historia

    mayo 30, 2025
  • ¿Cuáles son los elementos de una historieta?

    febrero 15, 2017
  • 7

    CLAUDIA NO ES CÁRDENAS (obvio, no es una cuestión de género)

    mayo 28, 2025
  • 8

    La CNTE: autonomía y movilización en el marco de una hegemonía progresista (1/3)

    mayo 31, 2025
  • 9

    Y sin embargo obedecen. El cerco mediático contra el magisterio rebelde

    mayo 28, 2025
  • 10

    Nueva ley de transparencia menoscaba la democracia y rendición de cuentas

    mayo 30, 2025
  • 11

    Educación capitalista. Mercantilización, violencia y sometimiento tecnológico. Una lectura de la reciente obra educativa y pedagógica del profesor Renán Vega Cantor1

    mayo 30, 2025
  • 12

    La CNTE: autonomía y movilización en el marco de una hegemonía progresista (2/3)

    junio 1, 2025
  • 13

    Más de 2 mil personas resisten frente a Equinox Gold y desmienten a funcionario

    mayo 29, 2025
  • 14

    Nuevo León convierte a maestros en servidores públicos para quitarles derechos

    mayo 22, 2025

Rolando Revagliatti. Argentina

Raúl Allain. Perú

Juan Antonio Guerrero O. México

Vanesa Monserrat. Argentina

Carolina Vásquez Araya

Ilka Oliva-Corado

Javier Tolcachier

Columna: CORTOCIRCUITOS

Manuel I. Cabezas González

Luis Armando González

Iliana Lo Priore

Jorge Salazar

Adolfo del Ángel Rodríguez

Oswualdo Antonio G.

José Eduardo Celis

Daniel Suárez

Güris J. Fry

Jorge Díaz Piña

Ángel Santiago Villalobos

Andrés Brenner

Alejandra Cortina

José Carlos Buenaventura

Luis Palacios

@2020 - Insurgencia Magisterial

Portal Insurgencia Magisterial
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
Portal Insurgencia Magisterial
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
@2020 - Insurgencia Magisterial

Leer también:x

LA VERDAD SOBRE LAS SANCIONES Y LA...

diciembre 5, 2018

El filósofo Luciano Floridi advierte sobre el...

febrero 8, 2025

La política estadounidense hacia Cuba en el...

abril 27, 2024