Top Posts
La semántica del genocidio
En Veracruz: Docentes y carreteras, el juego extremo.
Divulgación científica y marca profesional
Boletín de prensa: Cierre y remediación inconclusos en...
Cirrus Minor: “Alan Parsons en México”
PSICOTERAPIA DE ROCK INTENSIVA: “LOS RODRÍGUEZ: SIN DOCUMENTOS...
REDONDO “Keyke Mahboobe Man”
Tras descuento, maestra de la CNTE recibe $0.99...
Siempre parece imposible hasta que se hace
Triunfa pueblo de Nealtican, su asamblea regirá asuntos...
  • Colectivo Insurgencia Magisterial
Portal Insurgencia Magisterial
Banner
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
Espacio principalEspacio secundario

¿OpenAI tiene sesgos?: Revisamos para que no tengas que revisar tú

por RedaccionA marzo 25, 2023
marzo 25, 2023
872
De este ARTÍCULO eres el lector: 767

Por: Daria Dergacheva. Traducido por: Josue Palacios. 25/04/2023

Examinamos cómo OpenAI generó una mujer en varios idiomas.

El lanzamiento de ChatGPT y DALL-E2 de OpenAI ha generado un gran interés en los medios y en los usuarios de las redes sociales. Ya se debate en las comunidades de derechos digitales, tecnología y periodismo lo que estas tecnologías pueden lograr, qué trabajos podrían reemplazar, cómo se manejaría las cuestiones de derechos de autor y cómo podrían amplificar los sesgos existentes.

Global Voices hizo un experimento con DALL-E2, generador de imágenes con inteligencia artificial (IA), para examinar cómo produce imágenes en diferentes idiomas. Ingresamos la misma frase en nueve idiomas: «Pintura al óleo de la sombra de una mujer en duelo ante la ventana».

Estos son los resultados que obtuvimos.

Inglés: Oil painting of a shadow of a grieving woman at the window.

Imagen generada por Global Voices con OpenAI

Español: Pintura al óleo de la sombra de una mujer en duelo ante la ventana.

Imagen generada por Global Voices con OpenAI

Checo: Olejomalba stínu truchlící ženy u okna.

Imagen generada por Global Voices con OpenAI

Ruso: Картина маслом силуэт скорбящей женщины у окна.

Imagen generada por Global Voices con OpenAI

Indonesio: Lukisan cat minyak bayangan seorang janda perempuan yang sedang berduka di samping jendela.

Imagen generada por Global Voices con OpenAI

Chino simplificado: 窗边悲痛女人的影子油画

Imagen generada por Global Voices con OpenAI

Kazajo: Терезедегі қайғылы әйелдің көлеңкесінің майлы бояу суретi.

Imagen generada por Global Voices con OpenAI

Uzbeko: Deraza oldida qayg’u chekayotgan ayol soyasining moyli rasmi.

Imagen generada por Global Voices con OpenAI

Malabar: ജനാലയ്ക്കരികിൽ ദുഃഖിക്കുന്ന ഒരു സ്ത്രീയുടെ നിഴലിന്റെ ഓയിൽ പെയിന്റിംഗ്

Imagen generada por Global Voices con OpenAI

Algunas de las imágenes producidas difieren bastante del mensaje original, lo que puede atribuirse a la falta de datos en los idiomas originales. En una entrevista con TechCrunch, los creadores de DALL-E explicaron que el modelo utilizado es CLIP (Contrastive Language-Image Pre-training), que fue entrenado con 400 millones de imágenes con descripciones extraídas de internet. El sitio web de OpenAI dice:

  • Traducción
  • Cita original

El modelo GPT-3 demuestra que se puede usar el lenguaje para dirigir una gran red neuronal y de esta forma realizar diferentes tareas de generación de texto, mientras que Image GPT demuestra que la misma red neuronal puede producir imágenes de alta fidelidad. Nuestra investigación destaca que ahora es posible manipular conceptos visuales a través del lenguaje.

“Vivimos en un mundo visual”, dijo Ilya Sutskever, director científico de OpenAI, en entrevista con MIT Technological Review:

  • Traducción
  • Cita original

Con el tiempo, tendremos modelos que podrán entender textos e imágenes. IA podrá mejorar su comprensión del lenguaje, ya que podrán visualizar el significado de palabras y oraciones.

El hecho de que diferentes idiomas produjeran resultados tan diversos indica que el proceso de raspado web del modelo enfatizó más los idiomas más hablados, como el inglés o el español, y descuidó idiomas de uso menos común.

La falta de imágenes con descripciones en uzbeko o malabar en los datos de entrenamiento utilizados por la IA demuestra que se debería entrenar al modelo con más imágenes que tengan descripciones en idiomas distintos al inglés si quieren que funcione con idiomas adicionales. De lo contrario, los usuarios de Kazajistán seguirán recibiendo imágenes de cocinas en lugar de mujeres y los hablantes de malabar recibirán imágenes de la naturaleza. La imagen rusa está muy sexualizada, mientras que la imagen indonesia presenta a varias chicas sentadas, y la imagen checa destaca entre las demás por mostrar un frasco de aceite como elemento central. Las imágenes generadas a partir del chino simplificado son perturbadoras.

En definitiva, no podemos decir que OpenAI tenga sesgos solo por estos hallazgos. Sin embargo, es evidente que el modelo carece de datos suficientes en otros idiomas además del inglés. Queda por ver si esto cambiará, y esperamos que sea así.

LEER EL ARTÍCULO ORIGINA PULSANDO AQUÍ

Fotografía: Global voices

Compartir 0 FacebookTwitterWhatsapp
RedaccionA

noticia anterior
La farsa democrática del capitalismo
noticia siguiente
La lucha por el aborto terapéutico en El Salvador: la historia de Beatriz 

También le podría interesar

Periodismo e inteligencia artificial: ¿cómo incide la IA...

junio 27, 2025

El Otro que no existe: conversaciones con una...

junio 27, 2025

IA y el verdadero coste del progreso

junio 26, 2025

Visitantes en este momento:

1.704 Usuarios En linea
Usuarios: RedaccionA,La Redacción,1.069 Invitados,633 Bots

Síguenos en nuestras Redes Sociales

  • Bluesky
  • Mastodon
  • Telegram
  • WhatsApp

Blog: Perspectivas comunistas

Gracias por informarte con nosotros…

Desde el Plantón magisterial en el Zócalo de la CDMX

Rompe el cerco informativo…

Blog de la Columna CORTOCIRCUITOS

Nuestros grupos de difusión

Artículos publicados por mes

Síguenos en Facebook

Síguenos en Facebook

Artículos por AUTORES

Artículos publicados por FECHA

julio 2025
L M X J V S D
 123456
78910111213
14151617181920
21222324252627
28293031  
« Jun    

Artículos más leídos esta semana

  • 1

    Tras descuento, maestra de la CNTE recibe $0.99 pesos de salario

    julio 4, 2025
  • 2

    ¡TODOS SOMOS ESTEBAN! Efectos de las reformas neoliberales en el trabajo docente

    julio 3, 2025
  • 3

    Minera Equinox Gold demandó a Carrizalillo y a 125 ejidatarios por “despojo”

    julio 3, 2025
  • 4

    Periódico: El Zenzontle (258)

    julio 3, 2025
  • 5

    “La táctica en las redes es clara: bombardearnos con mercancía estúpida y pesimista para que nada cambie”

    julio 4, 2025
  • 6

    Represión en la Universidad Ibn Zohr: amenazan con expulsar a estudiantes saharauis por manifestarse por la independencia

    julio 3, 2025
  • 7

    TEMPORADA DE ENGAÑOS

    junio 24, 2025
  • ¿Cuáles son los elementos de una historieta?

    febrero 15, 2017
  • 9

    10 soluciones para habitar Internet de otra manera

    julio 3, 2025
  • 10

    Comunidades mayas rechazan planta de Heineken en Yucatán

    julio 3, 2025
  • 11

    UN MISTERIO Y UNA EPIFANÍA DE DUSSEL.

    julio 1, 2025
  • 12

    Trump y Cuba: ¿regreso a la guerra fría?

    julio 4, 2025
  • 13

    Acercamiento a FAUSTO de Johann Wolfgang von Goethe

    junio 30, 2025
  • 14

    Ciencia sin tortura

    julio 4, 2025

Rolando Revagliatti. Argentina

Raúl Allain. Perú

Juan Antonio Guerrero O. México

Vanesa Monserrat. Argentina

Carolina Vásquez Araya

Ilka Oliva-Corado

Javier Tolcachier

Columna: CORTOCIRCUITOS

Manuel I. Cabezas González

Luis Armando González

Iliana Lo Priore

Jorge Salazar

Adolfo del Ángel Rodríguez

Oswualdo Antonio G.

José Eduardo Celis

Daniel Suárez

Güris J. Fry

Jorge Díaz Piña

Ángel Santiago Villalobos

Andrés Brenner

Alejandra Cortina

José Carlos Buenaventura

Luis Palacios

@2020 - Insurgencia Magisterial

Portal Insurgencia Magisterial
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
Portal Insurgencia Magisterial
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
@2020 - Insurgencia Magisterial

Leer también:x

Inteligencias artificiales, imágenes irracionales

junio 28, 2023

“La data es el nuevo petróleo en...

septiembre 30, 2017

NOAM CHOMSKY HABLA SOBRE PARA QUÉ ES...

julio 3, 2023