Por: Samuel Witteveen Gómez. 27/07/2023
Si las actuales herramientas de IA prosperan, nadie podrá robar en el supermercado, colarse en el metro o pisar de más el acelerador del coche. Más que el triunfo de la ley, será la sustitución de la justicia por una tiranía ciega
Existen supermercados donde las cámaras de seguridad señalan por sí solas a quienes cometen un hurto. Mediante inteligencia artificial estas cámaras son capaces de identificar los gestos y las actitudes que suelen acompañar a la sustracción de algún producto. Sucede en países como Estados Unidos y Japón. También hay estaciones de tren y metro, en Cataluña por ejemplo, donde las cámaras alertan si algún pasajero accede sin billete.
Además, se espera que cada vez más vehículos incluyan sistemas que reducen la velocidad automáticamente cuando el conductor supera el límite permitido. Son algoritmos, asimismo, los que a menudo se ocupan de detectar y penalizar el fraude fiscal. Y un juez en Colombia ha materializado un horizonte con el que algunos juristas sueñan al recurrir a ChatGPT para escribir una sentencia.
Estos ejemplos, por dispares que parezcan, señalan una misma tendencia: la automatización de la ley. Ante las posibilidades que nos ofrece la tecnología, resulta tentador invertir en sistemas que ayuden a garantizar el cumplimiento de las normas. Y si estas herramientas realmente prosperan podría llegar un día donde nadie, independientemente de su situación, pueda robar en el supermercado, colarse en el metro o pisar de más el acelerador del coche. Pero esto, más que el triunfo de la ley, puede suponer el fin del derecho como práctica de una comunidad moral y su sustitución por algo más bien parecido a un molde, a un túnel, a una tiranía ciega.
Tal cúmulo de amenazas justificará para muchos que las autoridades deleguen el control a sistemas automatizados
Es, además, en el contexto de los grandes retos que afrontan los Estados donde se debe entender el riesgo de la automatización. Problemas de enorme alcance como el cambio climático, migración, pandemias y amenazas terroristas encuentran a menudo en boca de políticos y empresarios su correspondiente solución en la promesa de control que nos brinda la tecnología. Una unión entre urgencia y coacción parece ser la seña de nuestro tiempo, una unión, a todas luces, temible.
Tal cúmulo de amenazas justificará para muchos que las autoridades deleguen el control a sistemas automatizados, los únicos, posiblemente, capaces de aplicar normas a gran escala. Existe, sin embargo, una diferencia insalvable entre el acatamiento de una ley (por convencimiento o por simple sumisión) y la incapacidad de transgredirla (porque la arquitectura del poder solo permite su cumplimiento).
El filósofo Maxim Februari explica en su último libro que las máquinas, a diferencia de nosotros, no son sujetos morales que actúan desde la responsabilidad. Por ello tampoco son capaces de ver y entender que nosotros, sobre quienes ellas deciden, sí somos seres morales. “Las máquinas” escribe Februari “no están en lo más mínimo preocupadas por la verdad de nosotros como personas, ni se preocupan por entender, lo único que persiguen es funcionar: realizar operaciones”.
Así, por severo que pueda llegar a ser un revisor de metro, éste siempre será infinitamente más compasivo que un sistema automatizado. El revisor, a diferencia de la máquina, tiene la capacidad de comprender que hay razones para colarse en el metro, que cada pasajero representa un caso particular. La máquina, en cambio, no ve personas, no ve historias ni necesidades, tan solo es capaz de detectar aquellos indicadores que posibilitan su idéntica operación.
Ramón López de Mántaras, experto en inteligencia artificial del CSIC, denunciaba recientemente en una tribuna el error extendido de atribuir a la tecnología características humanas. “Creemos que la IA prácticamente no tiene límites cuando de hecho es extremadamente limitada y, lo que es muy importante, no tiene nada que ver con la inteligencia humana”. A pesar de las virtudes y utilidades de estas herramientas, Mántaras advierte que la inteligencia artificial, en realidad, no es inteligente sino que realiza tareas sin poder comprenderlas. Aunque la IA sin duda pueda ser más hábil que nosotros realizando operaciones concretas, carece del conocimiento complejo del mundo que cualquier persona posee.
Y es que el mundo funciona en gran medida gracias a procesos informales, experiencias y gestos que no son cuantificables. Incluso la persona más bruta conoce una inmensidad de sentires completamente ajenos a la máquina, sentires que en todo momento informan sus actos. La empatía, la indignación, la duda, el conflicto, la flexibilidad, el temor, la paciencia, la justicia. Quienes, ignorando todo ello, equiparan la máquina con el humano, toman las capacidades de la máquina como criterio y desprecian aquello que distingue a lo vivo de lo inerte. La historia nos muestra, además, que ignorar la importancia de los procesos informales conduce una y otra vez al desastre.
La aplicación mecánica de la ley contradice asimismo los principios del Estado de derecho. Lo que diferencia un Estado de derecho de cualquier modelo autoritario es que el poder está sujeto a garantías. Las decisiones no reposan simplemente en la autoridad, sino que deben ser legítimas y justificables. La primacía del derecho sobre el poder implica, por tanto, la existencia de una comunidad inmersa en una práctica constante de apelar, interpelar, decidir y justificar. Renunciar a ello en pos de un orden cerrado conlleva disolver la comunidad y suspender el derecho. Cuando hablamos de automatización no hablamos por tanto de una mera sofisticación sino de un modo radicalmente diferente de gobernanza.
La aplicación mecánica de la ley contradice asimismo los principios del Estado de derecho
La ley es incompatible con lo mecánico. No existe ley aplicable a todos los casos pues la norma necesariamente requiere, una y otra vez, interpretación y ejecución. Februari recurre a la historia de dos miembros de la resistencia holandesa en la Segunda Guerra Mundial para ilustrar esto. Dice la anécdota que estos dos partisanos capturaron a un miembro de la SS que se dedicaba a delatar a otros en su pueblo. Cuando tuvieron a este hombre en su poder quisieron matarlo pero les asaltó la duda de si hacían lo correcto. Así que acudieron al cura y le consultaron si está permitido matar a un nazi. El cura les respondió: “En realidad, no”.
En la breve respuesta del sacerdote está encerrado todo ese terreno propiamente humano que resulta incomprensible para las máquinas. Pues el cura no toma simplemente el quinto mandamiento y les prohíbe matar sino que les informa del contenido de la ley y añade ese “en realidad’”, que es la apertura a la excepción. Entre la ley universal (no matarás) y el caso concreto y apremiante (mientras siga viva esta persona delatará a otros), los dos partisanos cargan con la responsabilidad de decidir de la forma más justa. La ley no puede simplemente aplicarse porque primero debe atravesar aquellas historias particulares para poder materializarse. Es a lo que se refería Franz Rosenzweig cuando escribió: “La ley es entregada al hombre, no el hombre a la ley”.
El problema de dejar tareas de gobernanza en manos de la inteligencia artificial no es solo que ésta resulta a menudo susceptible de sesgos y errores. Por mucho que se llegue a perfeccionar el algoritmo y a pulir los datos, un sistema automatizado jamás igualará la capacidad interpretativa humana. La diferencia entre la inteligencia artificial y la humana no es cuantitativa, sino cualitativa.
Por supuesto que la tecnología puede asistirnos en tareas anodinas, por ejemplo, a la hora de encontrar u organizar información y esto puede aliviar los juzgados y agilizar los procesos. La decisión de un juez, en cambio, no debería realizarla un sistema de inteligencia artificial generativa (como el ChatGPT) pues por mucha jurisprudencia que la herramienta sea capaz de moldear, nunca podrá comprender aquello de lo que realmente se trata: impartir justicia.
El juez es el enlace entre la legislación y el caso particular y en cada una de sus decisiones debe introducir un elemento original. Una norma aplicada automáticamente puede crear ilusión de ecuanimidad pero en realidad sucede lo contrario: se impone una misma interpretación a casos diferentes. La justicia precisa de un miramiento especial en cada caso, un instante de peligro donde la doctrina se asoma a la profundidad de la vida. Jacques Derrida lo expresó así en Fuerza de ley: “La ley es el elemento de cálculo, mientras que la justicia es incalculable, requiere que calculemos con lo incalculable”.
LEER EL ARTÍCULO ORIGINAL PULSANDO AQUÍ
Fotografía: CTXT. Fotograma de la película Yo, robot (2004). / Alex Proyas
