Top Posts
Educar en el respeto.
Presencia de los aspirantes a dirigir el SDTEV...
La disputa por el SDTEV en imágenes
Aprender a discernir en un mundo intoxicado por...
“Ecuador vive un proceso de corte dictatorial del...
Petro lanza plan «Colombia Potencia Mundial de la...
Savater: crónica de una moral antiética
Tratados de comercio digital no pueden impedir transparencia...
Grecia – elecciones nacionales: victoria de las fuerzas...
Un Chile rehén de los uniformados
  • Colectivo Insurgencia Magisterial
Insurgencia Magisterial
Banner
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Micropolíticas del vivir
Espacio principalEspacio secundario

¿OpenAI tiene sesgos?: Revisamos para que no tengas que revisar tú

por RedaccionA marzo 25, 2023
marzo 25, 2023
Veces que se ha leído este Artículo: 146

Por: Daria Dergacheva. Traducido por: Josue Palacios. 25/04/2023

Examinamos cómo OpenAI generó una mujer en varios idiomas.

El lanzamiento de ChatGPT y DALL-E2 de OpenAI ha generado un gran interés en los medios y en los usuarios de las redes sociales. Ya se debate en las comunidades de derechos digitales, tecnología y periodismo lo que estas tecnologías pueden lograr, qué trabajos podrían reemplazar, cómo se manejaría las cuestiones de derechos de autor y cómo podrían amplificar los sesgos existentes.

Global Voices hizo un experimento con DALL-E2, generador de imágenes con inteligencia artificial (IA), para examinar cómo produce imágenes en diferentes idiomas. Ingresamos la misma frase en nueve idiomas: «Pintura al óleo de la sombra de una mujer en duelo ante la ventana».

Estos son los resultados que obtuvimos.

Inglés: Oil painting of a shadow of a grieving woman at the window.

Imagen generada por Global Voices con OpenAI

Español: Pintura al óleo de la sombra de una mujer en duelo ante la ventana.

Imagen generada por Global Voices con OpenAI

Checo: Olejomalba stínu truchlící ženy u okna.

Imagen generada por Global Voices con OpenAI

Ruso: Картина маслом силуэт скорбящей женщины у окна.

Imagen generada por Global Voices con OpenAI

Indonesio: Lukisan cat minyak bayangan seorang janda perempuan yang sedang berduka di samping jendela.

Imagen generada por Global Voices con OpenAI

Chino simplificado: 窗边悲痛女人的影子油画

Imagen generada por Global Voices con OpenAI

Kazajo: Терезедегі қайғылы әйелдің көлеңкесінің майлы бояу суретi.

Imagen generada por Global Voices con OpenAI

Uzbeko: Deraza oldida qayg’u chekayotgan ayol soyasining moyli rasmi.

Imagen generada por Global Voices con OpenAI

Malabar: ജനാലയ്ക്കരികിൽ ദുഃഖിക്കുന്ന ഒരു സ്ത്രീയുടെ നിഴലിന്റെ ഓയിൽ പെയിന്റിംഗ്

Imagen generada por Global Voices con OpenAI

Algunas de las imágenes producidas difieren bastante del mensaje original, lo que puede atribuirse a la falta de datos en los idiomas originales. En una entrevista con TechCrunch, los creadores de DALL-E explicaron que el modelo utilizado es CLIP (Contrastive Language-Image Pre-training), que fue entrenado con 400 millones de imágenes con descripciones extraídas de internet. El sitio web de OpenAI dice:

  • Traducción
  • Cita original

El modelo GPT-3 demuestra que se puede usar el lenguaje para dirigir una gran red neuronal y de esta forma realizar diferentes tareas de generación de texto, mientras que Image GPT demuestra que la misma red neuronal puede producir imágenes de alta fidelidad. Nuestra investigación destaca que ahora es posible manipular conceptos visuales a través del lenguaje.

“Vivimos en un mundo visual”, dijo Ilya Sutskever, director científico de OpenAI, en entrevista con MIT Technological Review:

  • Traducción
  • Cita original

Con el tiempo, tendremos modelos que podrán entender textos e imágenes. IA podrá mejorar su comprensión del lenguaje, ya que podrán visualizar el significado de palabras y oraciones.

El hecho de que diferentes idiomas produjeran resultados tan diversos indica que el proceso de raspado web del modelo enfatizó más los idiomas más hablados, como el inglés o el español, y descuidó idiomas de uso menos común.

La falta de imágenes con descripciones en uzbeko o malabar en los datos de entrenamiento utilizados por la IA demuestra que se debería entrenar al modelo con más imágenes que tengan descripciones en idiomas distintos al inglés si quieren que funcione con idiomas adicionales. De lo contrario, los usuarios de Kazajistán seguirán recibiendo imágenes de cocinas en lugar de mujeres y los hablantes de malabar recibirán imágenes de la naturaleza. La imagen rusa está muy sexualizada, mientras que la imagen indonesia presenta a varias chicas sentadas, y la imagen checa destaca entre las demás por mostrar un frasco de aceite como elemento central. Las imágenes generadas a partir del chino simplificado son perturbadoras.

En definitiva, no podemos decir que OpenAI tenga sesgos solo por estos hallazgos. Sin embargo, es evidente que el modelo carece de datos suficientes en otros idiomas además del inglés. Queda por ver si esto cambiará, y esperamos que sea así.

LEER EL ARTÍCULO ORIGINA PULSANDO AQUÍ

Fotografía: Global voices

Compartir 0 FacebookTwitterWhatsapp
RedaccionA

noticia anterior
La farsa democrática del capitalismo
noticia siguiente
La lucha por el aborto terapéutico en El Salvador: la historia de Beatriz 

También le podría interesar

Lo que la inteligencia artificial nos enseña sobre...

mayo 27, 2023

El difícil equilibrio de regular la inteligencia artificial:...

mayo 26, 2023

INTELIGENCIA ARTIFICIAL: MIRADA, CUERPO, EXISTENCIA

mayo 24, 2023

Visitantes en estos momentos:

309 Usuarios En linea
Usuarios: 39 Invitados, 271 Bots

Sábado 11:00 de la mañana

Artículo recomendado

CINE GRATIS EN XALAPA

Unidad de Investigaciones Periodísticas de la UNAM

Artículos por AUTORES

Artículos publicados por FECHA

mayo 2023
L M X J V S D
1234567
891011121314
15161718192021
22232425262728
293031  
« Abr    

Artículos más leídos esta semana

  • 1

    PESO PLUMA EN LA ESCUELA: ¿Y AHORA QUÉ HACEMOS?    

    mayo 27, 2023
  • 2

    PESO PLUMA EN LA ESCUELA

    mayo 23, 2023
  • 3

    Gustavo Petro: “El cambio es más difícil de lo que pensábamos”

    mayo 25, 2023
  • 4

    Fernando Domínguez visita la Delegación 5 de Álamo en busca del voto de los agremiados al SDTEV

    mayo 25, 2023
  • 5

    La disputa por el SDTEV en imágenes

    mayo 28, 2023
  • 6

    Da juez revés a libros de texto

    mayo 22, 2023
  • 7

    CÓMO LA CONSTITUYENTE CHILENA PASÓ DE PROGRESISTA A RADICAL DE ULTRADERECHA

    mayo 25, 2023
  • ¿Cuáles son los elementos de una historieta?

    febrero 15, 2017
  • 9

    El espionaje en México cobra una nueva víctima: un aliado del presidente

    mayo 23, 2023
  • 10

    Presencia de los aspirantes a dirigir el SDTEV en Facebook ¿quién va ganando?

    mayo 28, 2023
  • 11

    Denuncian que la Dirección de Primaria Estatal de Veracruz oculta vacantes que deberían ser ocupadas por promoción vertical

    mayo 24, 2023
  • 12

    Chile: ultraderecha liderará el proyecto de nueva Constitución

    mayo 16, 2023
  • 13

    Cien años de teoría crítica

    mayo 26, 2023
  • 14

    Lo que la inteligencia artificial nos enseña sobre qué es realmente la inteligencia

    mayo 27, 2023

Vanesa Monserrat. Argentina

Rolando Revagliatti. Argentina

Juan Antonio Guerrero O. México

Raúl Allain. Perú

Carolina Vásquez Araya

Ilka Oliva-Corado

Javier Tolcachier

Columna: CORTOCIRCUITOS

Manuel I. Cabezas González

Luis Armando González

Iliana Lo Priore

Jorge Salazar

Adolfo del Ángel Rodríguez

Oswualdo Antonio G.

José Eduardo Celis

Daniel Suárez

Güris J. Fry

Jorge Díaz Piña

Ángel Santiago Villalobos

Andrés Brenner

Alejandra Cortina

José Carlos Buenaventura

Luis Palacios

BIBLIOTECA de ÁBACOenRed

Suscríbete

Acepta recibir notificaciones

@2020 - Insurgencia Magisterial

Insurgencia Magisterial
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Micropolíticas del vivir
Insurgencia Magisterial
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Micropolíticas del vivir
@2020 - Insurgencia Magisterial

Leer también:x

Amy Webb: «Nos acercamos a un escenario...

julio 13, 2021

ChatGPT, módulo de lenguaje ¿literario?

mayo 1, 2023

La verdadera amenaza de la inteligencia artificial.

julio 10, 2017