Top Posts
Un balance de la lucha de la CNTE:...
Asamblea de Daniel Noboa aprueba instalación de bases...
La (des)nazificación de Alemania
El sistema de castas y los dilemas de...
AgroALBA arrancó en Venezuela: estrategias solidarias para producir...
¡No en nuestro nombre! Manifiesto de feministas contra...
Presidente Maduro propone Escuela de Agricultura Regenerativa para...
EE. UU. vs. China: ¿quién manda en el comercio...
Entre el wokeismo y el populismo de derecha
PALESTINA Y LA SOLIDARIDAD INTERNACIONAL
  • Colectivo Insurgencia Magisterial
Portal Insurgencia Magisterial
Banner
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
Espacio principalEspacio secundario

Deepfakes de audio y engaños con IA amenazan las elecciones en el mundo

por RedaccionA junio 2, 2024
junio 2, 2024
545

Por: Dren Gërguri. 02/05/2024

Contenido generado con IA también tendrá gran impacto en nuestra vida social

Hoy en día, mediante un sencillo software de inteligencia artificial (IA) de fácil acceso, casi todos pueden crear grabaciones de audio o de vídeo de famosos o personas comunes que actúan y hablan de formas que nunca lo habrían hecho. Se debe proteger en profundidad los derechos de las personas cuyas voces e imágenes son objeto de apropiación. Las grandes empresas tecnológicas se han unido en un intento histórico de detener el uso inadecuado de la IA en las próximas elecciones en todo el mundo.

Los deepfakes se avanzando, y cada vez tienen mejor calidad, son más convincentes y se acercan más a la realidad. Con la gran cantidad de elecciones en el mundo en 2024, crece la preocupación por la inclusión de la inteligencia artificial en los procesos electorales, lo que puede comprometer la integridad de las elecciones. La manipulación de votos por medio de deepfakes es uno de los debates más importantes en muchos países que se preparan para las elecciones. Cerca de 4000 millones de personas acudirán a las urnas en más de 50 países. Académicos, periodistas y políticos han expresado su preocupación respecto al uso del contenido generado con IA en operaciones de influencia política.

No obstante, el contenido generado con IA también tendrá gran impacto en nuestra vida social. Recientemente, se han relacionado casos virales con celebridades, pero, dada a la rapidez con la que están evolucionando los deepfakes, habrá videos deepfakes de personas comunes y corrientes que no son celebridades o políticos y que no despiertan el interés del público por sus trabajos o actividades. Esto será una amenaza grave para la sociedad, por tanto, es importante contar con iniciativas colectivas contra los engaños generados con la IA.

Estudios de caso de deepfakes recientes

Los deepfakes, o las manipulaciones no hechas con IA denominadas «cheapfakes«, no son nuevos y existen desde hace tiempo. Sin embargo, con el impacto que tiene ChatGPT para acercar la IA a un público más amplio, en el último año, se han invertido miles de millones de dólares en empresas de IA. El avance de programas que faciliten su producción, especialmente los deepfakes, ha multiplicado el uso de la inteligencia artificial para crear deepfakes que se dirigen al público. Hoy en día, además de la manipulación de video, ha habido casos en que se han creado audios deepfakes, lo que es incluso más sencillo de hacer.

El caso del audio deepfake del presidente de Estados Unidos, Joe Biden, que se difundió en Nuevo Hampshire y que incitó a las personas a no votar en las primarias del estado, llegó a más 20 000 personas. Steve Kramer, que estuvo detrás de esta manipulación y que pagó 150 dólares para crearlo, declaró que lo hizo como un acto de desobediencia civil para llamar la atención a los riesgos relacionados con la inteligencia artificial en la política y a la necesidad de una regulación de la IA.

Otro gran ejemplo que demostró cuán peligrosos son los deepfakes para la democracia es el audio deepfake del político eslovaco Michal Simecka. Un audio de voz se publicó en Facebook 48 horas antes de las elecciones de Eslovaquia, en el que aparentemente Simecka hablaba de fraude electoral con la periodista Monika Todova. Asimismo, el caso que pudo tener consecuencias políticas y sociales graves es el del audio deepfake del alcalde de Londres, Sadiq Khan. A principios de noviembre de 2023, el audio de Khan se hizo viral cuando parecía estar insultando el Día del Armisticio (celebración para conmemorar el final de la Primera Guerra Mundial) y exigiendo que se debía dar más importancia a las marchas a favor de Palestina.

Además de los audios deepfakes que tienen a políticos como protagonistas, los videos deepfakes de celebridades continúan circulando por internet. Por ejemplo, hay videos deepfakes del famoso actor de Hollywood Tom Hanks, en el que una versión del actor hecha con IA promociona un plan dental, y también del famoso youtubero estadounidense MrBeast, que parecía estar organizando “el sorteo de un iPhone 15 más grande del mundo”.

También, se hicieron virales las imágenes deepfakes de la cantante Taylor Swift, que se publicaron a principio de este año en diversas plataformas de redes sociales como X (antes Twitter), Instagram, Facebook y Reddit. Antes de que lo retiraran de X, una de las imágenes falsificadas de Swift se vio más de 45 millones de veces en las casi 17 horas que estuvo en la plataforma.

Iniciativa colectiva contra los engaños generados con la IA

El “Acuerdo tecnológico para combatir el uso engañoso de la IA en las elecciones de 2024”, que se anunció en la Conferencia de Seguridad de Múnich, cuenta con 20 grandes compañías, como Adobe, Google, Microsoft, OpenAI, Snap Inc. y Meta, que se comprometen a usar tecnología innovadora para detectar y contrarrestar contenido perjudicial generado con IA que busca engañar a los votantes, y también para apoyar los esfuerzos para fomentar el conocimiento público, la educación mediática y la resiliencia de toda la sociedad. Es la primera vez que 20 compañías se unen contra los engaños generados con IA.

Las compañías participantes acordaron ocho compromisos específicos para mitigar los riesgos relacionados con el contenido electoral engañoso de IA. Esta iniciativa entre el sector tecnológico y la IA tiene como objetivo abordar las imágenes, los videos y los audios generados con IA que puedan influenciar a los votantes respecto a los candidatos, los funcionarios electorales y el proceso de votación. No obstante, no exige que se prohíba por completo este contenido.

The Bridge

Este articulo es parte de The Bridge (El puente), presentacion con opiniones, comentario e investigacion desde la perspectiva singular de la Comunidad de Global Voices. · Todos los articulos

GV Advox

Este articulo es de GV Advox, un proyecto de Global Voices con su propio sitio web, en pro de la defensa de la libertad de expresion y contra la censura en internet. · Todos los articulos

LEER EL ARTÍCULO ORIGINAL PULSANDO AQUÍ

Fotografía: Global voices. Dalle-3

Compartir 0 FacebookTwitterWhatsapp
RedaccionA

noticia anterior
El negocio de la inteligencia artificial amenaza con convertir la ciencia en pseudociencia
noticia siguiente
Medios de comunicación y feminicidio: cuando se perpetúan estereotipos dañinos

También le podría interesar

China. De Confucio a la IA: el país...

junio 7, 2025

Pensamiento crítico. Cara y ceca de la Inteligencia...

junio 6, 2025

Con la IA, uno de cada cuatro empleos...

junio 3, 2025

Visitantes en este momento:

764 Usuarios En linea
Usuarios: 228 Invitados,536 Bots

Blog: Perspectivas comunistas

Desde el Plantón magisterial en el Zócalo de la CDMX

Nuestras redes sociales

Blog de la Columna CORTOCIRCUITOS

Nuestros grupos de difusión

Artículos publicados por mes

Síguenos en Facebook

Síguenos en Facebook

Artículos por AUTORES

Artículos publicados por FECHA

junio 2025
L M X J V S D
 1
2345678
9101112131415
16171819202122
23242526272829
30  
« May    

Artículos más leídos esta semana

  • 1

    Del Acuerdo Educativo Nacional al Plan de estudios 2022.

    septiembre 13, 2022
  • 2

    Caótico intento de destituir a la presidenta de Trinidad y Tobago demuestra que «el país fue el verdadero perdedor»

    noviembre 29, 2021
  • 3

    Capitalismo vegano: multinacionales alimentarias y BlackRock

    agosto 18, 2022
  • Reitera Peña Nieto negativa del diálogo con CNTE hasta que regresen a clases

    septiembre 3, 2016
  • 5

    El IPE invita a disfrutar el TRIBUTO A JAMES BOND: 3 películas, entrada LIBRE.

    septiembre 5, 2022
  • 6

    Asesinan a defensor del agua y agroecología, Álvaro Arvizu

    junio 25, 2023
  • López Obrador exige que Felipe Calderón sea juzgado y encarcelado

    mayo 11, 2016
  • 8

    Conservadurismo y corrupción: los filones de López Obrador para hacer campaña sin que lo parezca

    abril 9, 2021
  • 9

    Padres de los 43 inician jornada de protestas “ante la deuda de justicia del Estado”

    septiembre 21, 2022
  • 10

    Marcha de migrantes: “No aguantamos más”

    octubre 23, 2018
  • 11

    América Latina y el Caribe. Migrar, única opción para millones… y negocio para pocos

    julio 15, 2023
  • 12

    Docentes de Educación Física llaman a apoyar el paro en la ESEF.

    septiembre 7, 2018
  • 13

    «Grave Retroceso Ambiental: Modificaciones al SEIA debilitan protección del medio ambiente» por Francisco Caamaño

    enero 16, 2025
  • 2016, la ciudadanía dice basta.

    enero 1, 2016

Rolando Revagliatti. Argentina

Raúl Allain. Perú

Juan Antonio Guerrero O. México

Vanesa Monserrat. Argentina

Carolina Vásquez Araya

Ilka Oliva-Corado

Javier Tolcachier

Columna: CORTOCIRCUITOS

Manuel I. Cabezas González

Luis Armando González

Iliana Lo Priore

Jorge Salazar

Adolfo del Ángel Rodríguez

Oswualdo Antonio G.

José Eduardo Celis

Daniel Suárez

Güris J. Fry

Jorge Díaz Piña

Ángel Santiago Villalobos

Andrés Brenner

Alejandra Cortina

José Carlos Buenaventura

Luis Palacios

@2020 - Insurgencia Magisterial

Portal Insurgencia Magisterial
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
Portal Insurgencia Magisterial
  • Inicio
  • Nosotros/Legal
  • Directorio
  • Alianzas
  • Columnistas
  • Voces que seguimos
  • Calendario de eventos
  • Educooperando
@2020 - Insurgencia Magisterial

Leer también:x

Análisis y reflexión de ChatGPT

mayo 18, 2025

¿La Inteligencia artificial (IA)? Tenemos que hablar

enero 11, 2025

¿Por qué consume tanta energía la inteligencia...

agosto 7, 2024