Top Posts
El Salvador. Seis años de Bukele: poderes ampliados, ...
Cómo los medios de comunicación occidentales fabrican el...
Un mes de movilizaciones en Panamá y la creciente represión...
Colombia. Potente huelga contra el boicot de la...
¿FobAfore? (vídeo)
Registran nueve puntos de bloqueo en Cochabamba por...
Argentina. Un mundo sin sindicatos: el sueño húmedo...
“Por nuestros derechos laborales, hasta la victoria”
Comunicado: Gobernador del Estado de Zacatecas, Presidente Municipal...
Es hora de enviar a la OTAN al...
  • Colectivo Insurgencia Magisterial
Portal Insurgencia Magisterial
Banner
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
Espacio principalEspacio secundario

El algoritmo machista.

por La Redacción noviembre 24, 2020
noviembre 24, 2020
1,3K

Por: Beatríz Gimeno. Rebelión. 24/11/2020

Hace unas semanas programamos un seminario sobre género e Inteligencia artificial que, como suele ser habitual despertó las risotadas en las redes. Salió el asunto del algoritmo y el sexismo y ¡qué risa, un algoritmo sexista! Tampoco, más allá de las expertas solemos encontrarnos a muchas feministas preocupadas por esta cuestión que debería ser una preocupación importante por varias razones.

La Inteligencia Artificial no es una cosa a la que podamos sentirnos ajenas,  es omnipresente, no es una cuestión que ocupe alguna parcela en la vida de alguna gente; la IA está presente en la mayor parte del tiempo de la vida de la mayor parte de la gente. Los algoritmos determinan ya aspectos fundamentales de nuestras vidas como acceder a una entrevista de trabajo, contratar una hipoteca, acceder a un préstamo, pasar la seguridad de un aeropuerto o un banco, usar tarjetas de crédito… Vivimos instaladas en la Inteligencia Artificial y en el futuro lo estaremos aun más. Sin embargo, por alguna razón (ay, todas sabemos la razón: la aparente neutralidad de los sesgos androcéntricos) no estamos prestando suficiente atención al sexismo de dicha tecnología, con el riesgo que ello conlleva. Un riesgo de retroceso de décadas en la posibilidad de comprender el mundo, y de enfrentarnos a él desde posiciones verdaderamente universales, como sólo puede ofrecer una visión en la que estén incluidas en igualdad las mujeres.

Tampoco es tan complicado entender qué los algoritmos heredan los sesgos de género porque se diseñan a partir de un conocimiento androcéntrico y sexista, porque recogen datos que van con sus correspondientes sesgos de género y porque, además, son diseñados por hombres. El número de mujeres sigue siendo muy pequeño en el diseño de la Inteligencia Artificial: Sólo el 12% de las personas con capacidad de decisión en el desarrollo de la IA son mujeres, sólo el 11% de programadoras de código fuente, sólo el 20% del profesorado en asignaturas relacionadas con la IA. En las empresas que desarrollan dichas tecnologías las mujeres son un 12 de los investigadores en Microsoft; el 15% en IBM y el 10% en Google.

El sesgo de género en los algoritmos no sólo reproduce el sexismo, sino que pueden incrementarlo. Por ejemplo, el riesgo es acusado en el uso del lenguaje, que lejos de hacerse menos sexista, cada vez lo es más. Por ejemplo: un algoritmo entrenado con texto tomado de internet relacionaba un nombre femenino como Sarah con palabras atribuidas a la familia y, por el contrario, un nombre masculino como John se asociaba a palabras relacionadas con el trabajo, como profesional y salario. En la red Bing se comprobó que al buscar la palabra «persona» aparecen más imágenes de hombres que de mujeres o que si buscas imágenes relacionadas con palabras como «inteligente» ocurre lo mismo: que aparecen muchos más hombres que mujeres. Son muchos los aspectos importantes en los que los algoritmos con sesgo de género inciden en nuestras vidas como ocurre con la seguridad o en la adscripción de recursos y, desde luego en los motores de búsqueda y las redes sociales que categorizan a los usuarios/as de manera distinta teniendo en cuenta los estereotipos de género. Por ejemplo, Facebook enviaba anuncios para trabajos mejor pagados a hombres blancos, mientras que a las mujeres y a personas no blancas se les mostraron anuncios para trabajos peor pagados.

No se trata de que exista una voluntad explícita por parte de los diseñadores de esta tecnología en programar algoritmos sexistas, se trata de que muchos hombres  no saben reconocer el sexismo cuando lo ven. De ahí que la solución pase por luchar para que cada vez se incorporen más mujeres a espacios con poder de decisión dentro de la Inteligencia Artificial, para que haya mujeres feministas pensando en cómo combatir dichos sesgos, luchando por corregirlos. Eso requiere trabajar para que las chicas se incorporen a las carreras tecnológicas, para que sean promocionadas en dichas empresas, para participen en el diseño de los algoritmos, de los programas. Porque sin ellas, algunas empresas han asumido sesgos tan sangrantes que ha habido que hacer correcciones de género importantes a posteriori, y en algunos casos no se habrán hecho. Por ejemplo, Amazon tuvo que eliminar su algoritmo de selección de personal porque penalizaba a los CV en los que aparecía la palabra «mujer» o se infería; por ejemplo, cuando en el CV aparecía «diseñadora» en lugar de «diseñador». ¿Cuántas veces nuestro CV habrá sido desechado en una selección laboral por el algoritmo? Y estos sesgos se producen, además, en un contexto en el que es muy complicado sexismo a la tecnología, ya que la mayoría de la gente tiende a suponer que ésta es neutra o no contiene sesgos de género y es así, más justa. Nada más lejos de la realidad.

No olvidemos que la primera programadora de la historia fue Ada Lovelace (1815-1852) un siglo antes de que se inventaran los ordenadores. Ni olvidemos tampoco que un siglo después seis mujeres programaron la primera computadora electrónica como parte de un proyecto secreto del ejército estadounidense en la Segunda Guerra Mundial. Poco se sabe de ellas, pero todo el mundo conoce en cambio la historia de Bill Gates fundando su empresa en un garaje, o de Mark Zuckerberg y Facebook. En definitiva, que sí, los algoritmos son tan machistas como la sociedad en la que se crean y desarrollan y sí, es muy importante incorporar esta cuestión al feminismo.

Beatriz Gimeno. Directora del Instituto de la Mujer.

LEER EL ARTÍCULO ORIGINAL PULSANDO AQUÍ

Fotografía: Rebelión.

Compartir 0 FacebookTwitterWhatsapp
La Redacción

noticia anterior
Agresión armada a brigada de ayuda humanitaria en Tabak, Aldama.
noticia siguiente
Conversatorio virtual: Desplazadas de Aldama.

También le podría interesar

Con la IA, uno de cada cuatro empleos...

junio 3, 2025

La IA también sabe persuadir mejor que las...

mayo 31, 2025

Claude Opus 4, la nueva IA de Anthropic,...

mayo 29, 2025

Visitantes en este momento:

1.095 Usuarios En linea
Usuarios: 318 Invitados,777 Bots

Blog: Perspectivas comunistas

Desde el Plantón magisterial en el Zócalo de la CDMX

Nuestras redes sociales

Blog de la Columna CORTOCIRCUITOS

Nuestros grupos de difusión

Artículos publicados por mes

Síguenos en Facebook

Síguenos en Facebook

Artículos por AUTORES

Artículos publicados por FECHA

junio 2025
L M X J V S D
 1
2345678
9101112131415
16171819202122
23242526272829
30  
« May    

Artículos más leídos esta semana

  • 1

    Ante la ratificación del Director del Colegio Preparatorio de Xalapa por parte de la USICAMM la Dirección de Bachillerato lo “retira” de manera arbitraria. Comunidad escolar inicia protestas

    junio 3, 2025
  • 2

    Alto al ataque mediático contra la CNTE, magisterio, organizaciones y sindicatos

    junio 2, 2025
  • 3

    ¡Quién miente?, ¿la presidenta o la CNTE?

    junio 1, 2025
  • 4

    La CNTE: autonomía y movilización en el marco de una hegemonía progresista (2/3)

    junio 1, 2025
  • 5

    La primavera no se alquila: dignidad magisterial y respeto a la historia

    mayo 30, 2025
  • 6

    La CNTE: autonomía y movilización en el marco de una hegemonía progresista (3/3)

    junio 3, 2025
  • 7

    Banco Azteca es premiado con 25 % de las AFORES: Pedro Hernández de la CNTE

    mayo 30, 2025
  • 8

    Daniela Griego, Presidenta Municipal electa de Xalapa. Recibe su constancia de mayoría

    junio 5, 2025
  • 9

    México. Maestros de la CNTE, continúa la huelga

    junio 4, 2025
  • 10

    AFORES: un robo para los trabajadores. ¿Quiénes son y cuántas cuentas controlan?

    mayo 25, 2025
  • 11

    Morir en la tortuosa búsqueda de los 43

    junio 3, 2025
  • 12

    EL PROBLEMA DE LA USICAMM ES… ¡TODO!

    mayo 31, 2025
  • 13

    Bukele reconoce que le estorban los tratados de derechos humanos y que lo tiene sin cuidado que lo llamen dictador

    junio 3, 2025
  • ¿Cuáles son los elementos de una historieta?

    febrero 15, 2017

Rolando Revagliatti. Argentina

Raúl Allain. Perú

Juan Antonio Guerrero O. México

Vanesa Monserrat. Argentina

Carolina Vásquez Araya

Ilka Oliva-Corado

Javier Tolcachier

Columna: CORTOCIRCUITOS

Manuel I. Cabezas González

Luis Armando González

Iliana Lo Priore

Jorge Salazar

Adolfo del Ángel Rodríguez

Oswualdo Antonio G.

José Eduardo Celis

Daniel Suárez

Güris J. Fry

Jorge Díaz Piña

Ángel Santiago Villalobos

Andrés Brenner

Alejandra Cortina

José Carlos Buenaventura

Luis Palacios

@2020 - Insurgencia Magisterial

Portal Insurgencia Magisterial
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
Portal Insurgencia Magisterial
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
@2020 - Insurgencia Magisterial

Leer también:x

Inteligencia Artificial y trabajo: un discurso diseñado...

marzo 16, 2025

Ana de Miguel critica que los filósofos...

noviembre 9, 2020

El malentendido apocalíptico con ChatGPT

agosto 3, 2023