Top Posts
UN MISTERIO Y UNA EPIFANÍA DE DUSSEL.
Apertura de la Cátedra Universitaria en Cooperación Genuina
Perú defiende esterilizaciones forzadas de Fujimori, casi 30...
Organizaciones exigen la liberación inmediata del activista Renato...
Equipo y hasta títeres les roban al grupo...
Morales cree que, si un partido lo habilita,...
Brasil: El partido revolucionario imaginario
¿Las cooperativas construyen un mundo mejor?
Milei lanza una campaña contra la discusión en...
“Seguimos marginadas, empobrecidas y asesinadas, porque ni siquiera...
  • Colectivo Insurgencia Magisterial
Portal Insurgencia Magisterial
Banner
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
Espacio principalEspacio secundario

Deepfakes de audio y engaños con IA amenazan las elecciones en el mundo

por RedaccionA junio 2, 2024
junio 2, 2024
547

Por: Dren Gërguri. 02/05/2024

Contenido generado con IA también tendrá gran impacto en nuestra vida social

Hoy en día, mediante un sencillo software de inteligencia artificial (IA) de fácil acceso, casi todos pueden crear grabaciones de audio o de vídeo de famosos o personas comunes que actúan y hablan de formas que nunca lo habrían hecho. Se debe proteger en profundidad los derechos de las personas cuyas voces e imágenes son objeto de apropiación. Las grandes empresas tecnológicas se han unido en un intento histórico de detener el uso inadecuado de la IA en las próximas elecciones en todo el mundo.

Los deepfakes se avanzando, y cada vez tienen mejor calidad, son más convincentes y se acercan más a la realidad. Con la gran cantidad de elecciones en el mundo en 2024, crece la preocupación por la inclusión de la inteligencia artificial en los procesos electorales, lo que puede comprometer la integridad de las elecciones. La manipulación de votos por medio de deepfakes es uno de los debates más importantes en muchos países que se preparan para las elecciones. Cerca de 4000 millones de personas acudirán a las urnas en más de 50 países. Académicos, periodistas y políticos han expresado su preocupación respecto al uso del contenido generado con IA en operaciones de influencia política.

No obstante, el contenido generado con IA también tendrá gran impacto en nuestra vida social. Recientemente, se han relacionado casos virales con celebridades, pero, dada a la rapidez con la que están evolucionando los deepfakes, habrá videos deepfakes de personas comunes y corrientes que no son celebridades o políticos y que no despiertan el interés del público por sus trabajos o actividades. Esto será una amenaza grave para la sociedad, por tanto, es importante contar con iniciativas colectivas contra los engaños generados con la IA.

Estudios de caso de deepfakes recientes

Los deepfakes, o las manipulaciones no hechas con IA denominadas «cheapfakes«, no son nuevos y existen desde hace tiempo. Sin embargo, con el impacto que tiene ChatGPT para acercar la IA a un público más amplio, en el último año, se han invertido miles de millones de dólares en empresas de IA. El avance de programas que faciliten su producción, especialmente los deepfakes, ha multiplicado el uso de la inteligencia artificial para crear deepfakes que se dirigen al público. Hoy en día, además de la manipulación de video, ha habido casos en que se han creado audios deepfakes, lo que es incluso más sencillo de hacer.

El caso del audio deepfake del presidente de Estados Unidos, Joe Biden, que se difundió en Nuevo Hampshire y que incitó a las personas a no votar en las primarias del estado, llegó a más 20 000 personas. Steve Kramer, que estuvo detrás de esta manipulación y que pagó 150 dólares para crearlo, declaró que lo hizo como un acto de desobediencia civil para llamar la atención a los riesgos relacionados con la inteligencia artificial en la política y a la necesidad de una regulación de la IA.

Otro gran ejemplo que demostró cuán peligrosos son los deepfakes para la democracia es el audio deepfake del político eslovaco Michal Simecka. Un audio de voz se publicó en Facebook 48 horas antes de las elecciones de Eslovaquia, en el que aparentemente Simecka hablaba de fraude electoral con la periodista Monika Todova. Asimismo, el caso que pudo tener consecuencias políticas y sociales graves es el del audio deepfake del alcalde de Londres, Sadiq Khan. A principios de noviembre de 2023, el audio de Khan se hizo viral cuando parecía estar insultando el Día del Armisticio (celebración para conmemorar el final de la Primera Guerra Mundial) y exigiendo que se debía dar más importancia a las marchas a favor de Palestina.

Además de los audios deepfakes que tienen a políticos como protagonistas, los videos deepfakes de celebridades continúan circulando por internet. Por ejemplo, hay videos deepfakes del famoso actor de Hollywood Tom Hanks, en el que una versión del actor hecha con IA promociona un plan dental, y también del famoso youtubero estadounidense MrBeast, que parecía estar organizando “el sorteo de un iPhone 15 más grande del mundo”.

También, se hicieron virales las imágenes deepfakes de la cantante Taylor Swift, que se publicaron a principio de este año en diversas plataformas de redes sociales como X (antes Twitter), Instagram, Facebook y Reddit. Antes de que lo retiraran de X, una de las imágenes falsificadas de Swift se vio más de 45 millones de veces en las casi 17 horas que estuvo en la plataforma.

Iniciativa colectiva contra los engaños generados con la IA

El “Acuerdo tecnológico para combatir el uso engañoso de la IA en las elecciones de 2024”, que se anunció en la Conferencia de Seguridad de Múnich, cuenta con 20 grandes compañías, como Adobe, Google, Microsoft, OpenAI, Snap Inc. y Meta, que se comprometen a usar tecnología innovadora para detectar y contrarrestar contenido perjudicial generado con IA que busca engañar a los votantes, y también para apoyar los esfuerzos para fomentar el conocimiento público, la educación mediática y la resiliencia de toda la sociedad. Es la primera vez que 20 compañías se unen contra los engaños generados con IA.

Las compañías participantes acordaron ocho compromisos específicos para mitigar los riesgos relacionados con el contenido electoral engañoso de IA. Esta iniciativa entre el sector tecnológico y la IA tiene como objetivo abordar las imágenes, los videos y los audios generados con IA que puedan influenciar a los votantes respecto a los candidatos, los funcionarios electorales y el proceso de votación. No obstante, no exige que se prohíba por completo este contenido.

The Bridge

Este articulo es parte de The Bridge (El puente), presentacion con opiniones, comentario e investigacion desde la perspectiva singular de la Comunidad de Global Voices. · Todos los articulos

GV Advox

Este articulo es de GV Advox, un proyecto de Global Voices con su propio sitio web, en pro de la defensa de la libertad de expresion y contra la censura en internet. · Todos los articulos

LEER EL ARTÍCULO ORIGINAL PULSANDO AQUÍ

Fotografía: Global voices. Dalle-3

Compartir 0 FacebookTwitterWhatsapp
RedaccionA

noticia anterior
El negocio de la inteligencia artificial amenaza con convertir la ciencia en pseudociencia
noticia siguiente
Medios de comunicación y feminicidio: cuando se perpetúan estereotipos dañinos

También le podría interesar

Periodismo e inteligencia artificial: ¿cómo incide la IA...

junio 27, 2025

El Otro que no existe: conversaciones con una...

junio 27, 2025

IA y el verdadero coste del progreso

junio 26, 2025

Visitantes en este momento:

1.328 Usuarios En linea
Usuarios: colaboracionjs,483 Invitados,844 Bots

Síguenos en nuestras Redes Sociales

  • Bluesky
  • Mastodon
  • Telegram
  • WhatsApp

Blog: Perspectivas comunistas

Gracias por informarte con nosotros…

Desde el Plantón magisterial en el Zócalo de la CDMX

Rompe el cerco informativo…

Blog de la Columna CORTOCIRCUITOS

Nuestros grupos de difusión

Artículos publicados por mes

Síguenos en Facebook

Síguenos en Facebook

Artículos por AUTORES

Artículos publicados por FECHA

julio 2025
L M X J V S D
 123456
78910111213
14151617181920
21222324252627
28293031  
« Jun    

Artículos más leídos esta semana

  • 1

    Escuelas Normales mexiquenses en jaque

    junio 30, 2025
  • ¿Cuáles son los elementos de una historieta?

    febrero 15, 2017
  • 3

    ”¡Dios mío!, ¿Por qué nos odian tanto?”

    junio 29, 2025
  • 4

    TEMPORADA DE ENGAÑOS

    junio 24, 2025
  • 5

    30 años de Aguas Blancas: mi palabra sentipensante y la mirada de estrella

    junio 28, 2025
  • 6

    Pronunciamiento estudiantil frente a la elección de rector en la UAM

    junio 26, 2025
  • 7

    Acercamiento a FAUSTO de Johann Wolfgang von Goethe

    junio 30, 2025
  • 8

    ¡Parar la guerra! ¿Anti-imperialismo o lucha de clases?

    junio 26, 2025
  • 9

    El Congreso legaliza el espionaje sin supervisión: colectivos denuncian retroceso autoritario

    junio 29, 2025
  • 10

    Hegemonía y desinformación: La llegada de RT a Chile

    junio 29, 2025
  • 11

    Los desafíos de los movimientos populares ante las nuevas derechas

    junio 29, 2025
  • 12

    “La austeridad sirve para disciplinar a la clase trabajadora”

    junio 24, 2025
  • 13

    Denuncian enterramiento masivo de residuos tóxicos en el Lago de Texcoco

    junio 29, 2025
  • 14

    Diputados aprueban Ley de Inteligencia para que gobierno acceda a registros telefónicos y bancarios

    junio 28, 2025

Rolando Revagliatti. Argentina

Raúl Allain. Perú

Juan Antonio Guerrero O. México

Vanesa Monserrat. Argentina

Carolina Vásquez Araya

Ilka Oliva-Corado

Javier Tolcachier

Columna: CORTOCIRCUITOS

Manuel I. Cabezas González

Luis Armando González

Iliana Lo Priore

Jorge Salazar

Adolfo del Ángel Rodríguez

Oswualdo Antonio G.

José Eduardo Celis

Daniel Suárez

Güris J. Fry

Jorge Díaz Piña

Ángel Santiago Villalobos

Andrés Brenner

Alejandra Cortina

José Carlos Buenaventura

Luis Palacios

@2020 - Insurgencia Magisterial

Portal Insurgencia Magisterial
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
Portal Insurgencia Magisterial
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
@2020 - Insurgencia Magisterial

Leer también:x

El Chat GPT y la última milla...

julio 18, 2023

¿LE DARÍA USTED UN ESCAÑO EN EL...

diciembre 26, 2023

El filósofo Luciano Floridi advierte sobre el...

febrero 8, 2025