Por: Cristina Bazán. 21/04/2024
En los últimos años han salido a la luz múltiples denuncias por el uso de programas de inteligencia artificial para generar desnudos falsos de niñas y adolescentes o de deportistas y mujeres con voz pública en España, Estados Unidos, Brasil y otras partes del mundo. Esta realidad es consecuencia de un machismo que persiste en la sociedad, pero que científicas y programadoras quieren cambiar para que, en lugar de reproducir violencias, esta tecnología pueda ayudar a combatir la desigualdad de género.
“La inteligencia artificial es una herramienta, no es intrínsecamente buena ni mala, sino que depende de sus usos. Le dimos a las máquinas, a los algoritmos, el poder de tomar decisiones, que pueden ser cosas sencillas como sugerir la siguiente música de tu playlist, pero también se usa a nivel de gobiernos, de políticas públicas. Lo que pasa es que estas tecnologías reproducen los sesgos y las discriminaciones de la sociedad en general”, explica a Efeminista Mariel Zasso, coordinadora de proyecto para América Latina y el Caribe de la Red Feminista de Investigación en Inteligencia Artificial (F<a+i>r).
La Red busca desarrollar algoritmos que, desde su diseño, “tengan esa preocupación con los sesgos de género y con todo tipo de discriminaciones, como las que sufren las personas racializadas”, agrega Zasso. El proyecto tiene como objetivo identificar y corregir prejuicios dentro de los espacios digitales, fomentando la colaboración y desarrollando soluciones de IA que reflejen principios feministas
IA feminista contra la violencia de género
La idea de la red es incentivar el desarrollo de inteligencia artificial con perspectiva feminista en tres regiones del Sur Global: América Latina, el norte de África y Medio Oriente, y el sudeste de Asia. En esos lugares, los equipos impulsan la creación de tecnologías y aplicaciones que no reproduzcan la violencia ni las desigualdades y que se desarrollen bajo los principios de equidad, diversidad y autonomía.
Un ejemplo de ello es SafeHER, una aplicación para mujeres usuarias del transporte público en Manila, Filipinas, que se diseñó en función de sus experiencias y necesidades vividas. Proporciona herramientas tales como alerta SOS, uso compartido de ubicación en vivo, detección de gritos y un sistema de “amigos” para mejorar su seguridad en el transporte público. Manila tiene uno de los sistemas de transporte más peligrosos del mundo para las mujeres: al menos el 80% denuncia acoso y agresión sexual, según detalla la investigación del proyecto.
Mariel Zasso, coordinadora de proyecto para América Latina y el Caribe de la Red Feminista de Investigación en Inteligencia Artificial (F<a+i>r). Foto: Iniciativa IDEA
Otra iniciativa es AymurAI, desarrollada por Data Género en colaboración con un tribunal de Buenos Aires, y creada para ayudar a abordar la falta de datos sobre la violencia de género en el sistema judicial de la capital argentina. La herramienta identifica y extrae información relevante de sentencias judiciales relacionadas con casos de violencia de género garantizando la confidencialidad y privacidad. La información luego puede verse en línea. El equipo del proyecto espera que los datos puedan usarse para identificar patrones que podrían conducir a delitos más graves, como el feminicidio.
Por ahora se utiliza en Argentina, pero el equipo está explorando la expansión a otros países como México.
En Chile, investigadoras de Datos Protegidos y el Observatorio de datos y estadísticas de género e interseccionalidades (ODEGI) diseñaron SOF+IA, un chatbot feminista basado en la web que brinda apoyo y recursos a quienes sufren violencia de género facilitada por la tecnología en redes sociales. SOF+IA guía a las usuarias sobre cómo denunciar casos en esas plataformas, proporciona consejos de autocuidado digital y evalúa si una situación se puede denunciar a la policía.
Educación digital en las escuelas
Mariel Zasso asegura que frente a las violencias que se reproducen por medio de las tecnologías se debería trabajar en educación digital y educación sobre violencia de género desde las escuelas.
“Se debe enseñar cómo detectar, por ejemplo un vídeo falso o una foto manipulada, que es un poco más difícil con deep fake, pero igual hay técnicas, es posible. Pero más importante es la educación sobre violencia de género, concientización con los niños y los jóvenes varones. Enseñarles que eso no se hace y cuáles son las consecuencias. La inteligencia artificial solo reproduce lo que ya está mal en la sociedad y es ahí en donde debemos atacar”, señala.
“El problema no es la inteligencia artificial, sino la violencia de género que hoy en día, además de todos los otros canales, tiene a los medios digitales para propagarse”.
Para afrontar esta lucha, afirma, es necesario también que más mujeres y personas diversas estén en el desarrollo de las tecnologías para que sus necesidades y sus visiones de mundo estén representadas. “Aunque ya estamos recuperando terreno hay menos mujeres desarrollando tecnología. Hay que incluir personas de los países del Sur Global, personas de pueblos y comunidades indígenas, personas con discapacidad, personas trans, es la única manera de tener la visión de todos”.
“Estamos aquí como herederas de muchas mujeres que estuvieron luchando por nuestros derechos a lo largo de los siglos. Ahora parece que todo es feminismo y qué bueno, porque ya era hora de que nuestras necesidades, nuestra forma de ver el mundo, fuera traída a todos los escenarios. Ahora hay que ir más allá, ya no alcanza con decir ‘incluir mujeres’ porque también hay que pensar en todas las diversidades de mujeres, que no sea solo la mujer blanca, occidental, sino que también recuperemos, por ejemplo, las visiones de los pueblos originarios locales. Es una visión que puede salvar el mundo”, concluye.
LEER EL ARTÍCULO ORIGINAL PULSANDO AQUÍ
Fotografía: Efeminista
