La tecnología deepfake es un tipo de inteligencia artificial que puede difundir información errónea y desinformación. Manténgase informado para ayudar a proteger a los niños y jóvenes en línea.
Los dos tipos principales de deepfakes son el vídeo y el audio. Los deepfakes de vídeo manipulan la apariencia de una persona, mientras que los deepfakes de audio manipulan su voz.
Los deepfakes de vídeo y audio suelen trabajar juntos para crear contenido engañoso. Las personas que crean este contenido falso pueden tener intenciones inocentes. Por ejemplo, podrían hacer un vídeo de una celebridad haciendo un baile divertido para hacer reír a la gente. Sin embargo, incluso las mejores intenciones pueden generar desinformación y confusión.
¿Qué son los vídeos deepfakes?
Los vídeos deepfakes son el tipo más común. Las personas que crean estos videos usan inteligencia artificial para reemplazar la cara o el cuerpo de alguien en secuencias de video existentes. Los ejemplos incluyen hacer que una celebridad diga algo controvertido o que un presentador de noticias informe historias inventadas.
En algunos videos deepfakes, un actor de doblaje imitará a la celebridad o el audio original para proporcionar la nueva voz. Alternativamente, el creador también podría utilizar la clonación de voz.
¿Qué es la clonación de voz?
La clonación de voz, o deepfakes de audio, manipula voces en lugar de videos para que suenen como otra persona. Una estafa cada vez más común utiliza la clonación de voz para apuntar a personas. Los padres pueden recibir una llamada frenética de su hijo que necesita dinero de inmediato para un propósito determinado. Estas estafas son extremadamente convincentes y han provocado pérdidas financieras.
Alguien también podría usar un audio deepfake para intimidar a otra persona. Por ejemplo, podrían imitar la voz de un compañero de clase para que parezca que ha dicho algo que no dijo.
Independientemente del tipo de deepfake, es importante recordar que alguien necesita utilizar una herramienta de inteligencia artificial para crearlo. Los creadores de deepfake no siempre lo tienen claro, pero la IA no genera automáticamente este contenido.
¿Cuáles son los daños potenciales?
Los deepfakes pueden afectar a las personas de diversas maneras y pueden dejar a niños y jóvenes expuestos a sufrir daños en línea.
Los niños y jóvenes pueden tener dificultades para reconocer vídeos y audios falsos, especialmente a medida que la tecnología se vuelve más sofisticada. Además, la mayor accesibilidad a las herramientas de inteligencia artificial podría significar que más personas puedan crear deepfakes. Por lo tanto, esto puede aumentar el alcance de los daños potenciales.
Información falsa y propaganda.
Los usuarios en línea pueden utilizar deepfakes para:
- difundir información falsa;
- arruinar la confianza en las figuras públicas; o
- manipular conversaciones sobre política y otros temas importantes.
Los niños todavía están desarrollando habilidades de pensamiento crítico, por lo que son particularmente vulnerables a creer este tipo de información.
Daño en la reputación
Algunos informes vinculan los deepfakes con la pornografía de venganza. En estos casos, el perpetrador agrega a la víctima a contenido comprometedor como videos o imágenes pornográficas.
El perpetrador podría entonces utilizar estos deepfakes para coaccionar a las víctimas. Esto podría incluir exigir pagos o imágenes reales para evitar que compartan los deepfakes más ampliamente.
Pérdidas financieras y estafas
Algunas estafas de audio deepfake o clonación de voz hacen que las víctimas pierdan dinero. También se ha utilizado la imagen de figuras públicas para promover inversiones fraudulentas.
Un ejemplo es el YouTuber Mr Beast, que parecía ofrecer a sus seguidores nuevos iPhones. Sin embargo, en realidad no era él. YouTube es popular entre niños y adolescentes. Por lo tanto, los deepfakes que imitan a sus creadores favoritos pueden dejarlos expuestos a estas estafas.
Fuente:
