Top Posts
Un balance de la lucha de la CNTE:...
Asamblea de Daniel Noboa aprueba instalación de bases...
La (des)nazificación de Alemania
El sistema de castas y los dilemas de...
AgroALBA arrancó en Venezuela: estrategias solidarias para producir...
¡No en nuestro nombre! Manifiesto de feministas contra...
Presidente Maduro propone Escuela de Agricultura Regenerativa para...
EE. UU. vs. China: ¿quién manda en el comercio...
Entre el wokeismo y el populismo de derecha
PALESTINA Y LA SOLIDARIDAD INTERNACIONAL
  • Colectivo Insurgencia Magisterial
Portal Insurgencia Magisterial
Banner
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
Espacio principalEspacio secundario

¿OpenAI tiene sesgos?: Revisamos para que no tengas que revisar tú

por RedaccionA marzo 25, 2023
marzo 25, 2023
868

Por: Daria Dergacheva. Traducido por: Josue Palacios. 25/04/2023

Examinamos cómo OpenAI generó una mujer en varios idiomas.

El lanzamiento de ChatGPT y DALL-E2 de OpenAI ha generado un gran interés en los medios y en los usuarios de las redes sociales. Ya se debate en las comunidades de derechos digitales, tecnología y periodismo lo que estas tecnologías pueden lograr, qué trabajos podrían reemplazar, cómo se manejaría las cuestiones de derechos de autor y cómo podrían amplificar los sesgos existentes.

Global Voices hizo un experimento con DALL-E2, generador de imágenes con inteligencia artificial (IA), para examinar cómo produce imágenes en diferentes idiomas. Ingresamos la misma frase en nueve idiomas: «Pintura al óleo de la sombra de una mujer en duelo ante la ventana».

Estos son los resultados que obtuvimos.

Inglés: Oil painting of a shadow of a grieving woman at the window.

Imagen generada por Global Voices con OpenAI

Español: Pintura al óleo de la sombra de una mujer en duelo ante la ventana.

Imagen generada por Global Voices con OpenAI

Checo: Olejomalba stínu truchlící ženy u okna.

Imagen generada por Global Voices con OpenAI

Ruso: Картина маслом силуэт скорбящей женщины у окна.

Imagen generada por Global Voices con OpenAI

Indonesio: Lukisan cat minyak bayangan seorang janda perempuan yang sedang berduka di samping jendela.

Imagen generada por Global Voices con OpenAI

Chino simplificado: 窗边悲痛女人的影子油画

Imagen generada por Global Voices con OpenAI

Kazajo: Терезедегі қайғылы әйелдің көлеңкесінің майлы бояу суретi.

Imagen generada por Global Voices con OpenAI

Uzbeko: Deraza oldida qayg’u chekayotgan ayol soyasining moyli rasmi.

Imagen generada por Global Voices con OpenAI

Malabar: ജനാലയ്ക്കരികിൽ ദുഃഖിക്കുന്ന ഒരു സ്ത്രീയുടെ നിഴലിന്റെ ഓയിൽ പെയിന്റിംഗ്

Imagen generada por Global Voices con OpenAI

Algunas de las imágenes producidas difieren bastante del mensaje original, lo que puede atribuirse a la falta de datos en los idiomas originales. En una entrevista con TechCrunch, los creadores de DALL-E explicaron que el modelo utilizado es CLIP (Contrastive Language-Image Pre-training), que fue entrenado con 400 millones de imágenes con descripciones extraídas de internet. El sitio web de OpenAI dice:

  • Traducción
  • Cita original

El modelo GPT-3 demuestra que se puede usar el lenguaje para dirigir una gran red neuronal y de esta forma realizar diferentes tareas de generación de texto, mientras que Image GPT demuestra que la misma red neuronal puede producir imágenes de alta fidelidad. Nuestra investigación destaca que ahora es posible manipular conceptos visuales a través del lenguaje.

“Vivimos en un mundo visual”, dijo Ilya Sutskever, director científico de OpenAI, en entrevista con MIT Technological Review:

  • Traducción
  • Cita original

Con el tiempo, tendremos modelos que podrán entender textos e imágenes. IA podrá mejorar su comprensión del lenguaje, ya que podrán visualizar el significado de palabras y oraciones.

El hecho de que diferentes idiomas produjeran resultados tan diversos indica que el proceso de raspado web del modelo enfatizó más los idiomas más hablados, como el inglés o el español, y descuidó idiomas de uso menos común.

La falta de imágenes con descripciones en uzbeko o malabar en los datos de entrenamiento utilizados por la IA demuestra que se debería entrenar al modelo con más imágenes que tengan descripciones en idiomas distintos al inglés si quieren que funcione con idiomas adicionales. De lo contrario, los usuarios de Kazajistán seguirán recibiendo imágenes de cocinas en lugar de mujeres y los hablantes de malabar recibirán imágenes de la naturaleza. La imagen rusa está muy sexualizada, mientras que la imagen indonesia presenta a varias chicas sentadas, y la imagen checa destaca entre las demás por mostrar un frasco de aceite como elemento central. Las imágenes generadas a partir del chino simplificado son perturbadoras.

En definitiva, no podemos decir que OpenAI tenga sesgos solo por estos hallazgos. Sin embargo, es evidente que el modelo carece de datos suficientes en otros idiomas además del inglés. Queda por ver si esto cambiará, y esperamos que sea así.

LEER EL ARTÍCULO ORIGINA PULSANDO AQUÍ

Fotografía: Global voices

Compartir 0 FacebookTwitterWhatsapp
RedaccionA

noticia anterior
La farsa democrática del capitalismo
noticia siguiente
La lucha por el aborto terapéutico en El Salvador: la historia de Beatriz 

También le podría interesar

China. De Confucio a la IA: el país...

junio 7, 2025

Pensamiento crítico. Cara y ceca de la Inteligencia...

junio 6, 2025

Con la IA, uno de cada cuatro empleos...

junio 3, 2025

Visitantes en este momento:

718 Usuarios En linea
Usuarios: 226 Invitados,493 Bots

Blog: Perspectivas comunistas

Desde el Plantón magisterial en el Zócalo de la CDMX

Nuestras redes sociales

Blog de la Columna CORTOCIRCUITOS

Nuestros grupos de difusión

Artículos publicados por mes

Síguenos en Facebook

Síguenos en Facebook

Artículos por AUTORES

Artículos publicados por FECHA

junio 2025
L M X J V S D
 1
2345678
9101112131415
16171819202122
23242526272829
30  
« May    

Artículos más leídos esta semana

  • 1

    Del Acuerdo Educativo Nacional al Plan de estudios 2022.

    septiembre 13, 2022
  • “Entendemos el cooperativismo como todo ese potencial transformador que puede tener y no como una simple forma más jurídica”

    junio 29, 2017
  • Xóchitl Osorio y Rosendo Pelayo paralizarán a Veracruz por sus incumplimientos.

    noviembre 2, 2016
  • 4

    Sin vosotras no habría feminismo

    enero 26, 2021
  • 5

    Una grieta apodada Lula

    noviembre 7, 2024
  • MARCHAN MAESTROS DE GUERRERO Y BLOQUEAN AUTOPISTA DEL SOL

    mayo 17, 2016
  • Pakistán y la teoría del Heartland.

    julio 26, 2017
  • 8

    Espionaje político electoral contra López Obrador, familia y equipo de campaña

    junio 11, 2018
  • De la dictadura de los monopolios a la democratización de los medios de producción

    octubre 22, 2016
  • 10

    Cuba continuará levantando las banderas de la paz, la solidaridad y la cooperación con los pueblos

    mayo 6, 2024
  • 11

    LAS MENTIRAS DEL #MOCHEDIGITAL NO SUPERAN LA CÁMARA DE DIPUTADOS

    mayo 17, 2021
  • 12

    Boluarte y Lula: sin sorpresas y algunas decepciones

    agosto 10, 2023
  • 13

    El peligro de las iglesias evangélicas en la política latinoamericana.

    noviembre 2, 2018
  • Comunidades huastecas afinan estrategias contra el fracking

    agosto 2, 2016

Rolando Revagliatti. Argentina

Raúl Allain. Perú

Juan Antonio Guerrero O. México

Vanesa Monserrat. Argentina

Carolina Vásquez Araya

Ilka Oliva-Corado

Javier Tolcachier

Columna: CORTOCIRCUITOS

Manuel I. Cabezas González

Luis Armando González

Iliana Lo Priore

Jorge Salazar

Adolfo del Ángel Rodríguez

Oswualdo Antonio G.

José Eduardo Celis

Daniel Suárez

Güris J. Fry

Jorge Díaz Piña

Ángel Santiago Villalobos

Andrés Brenner

Alejandra Cortina

José Carlos Buenaventura

Luis Palacios

@2020 - Insurgencia Magisterial

Portal Insurgencia Magisterial
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
Portal Insurgencia Magisterial
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
@2020 - Insurgencia Magisterial

Leer también:x

¿Nos iría mejor con otra idea de...

marzo 22, 2024

Inteligencia artificial: ¿la nueva dependencia?

noviembre 16, 2017

Inteligencia Artificial: ¿aliada de la educación?

mayo 25, 2025