🤖En esta segunda parte, exploramos los peligros y las implicaciones de las imágenes falsas generadas con inteligencia artificial (IA). Los estafadores usan IA para recrear la voz e imagen de diferentes personas famosas con fines lucrativos.
Ejemplos recientes con Messi:
- Tocando la guitarra en la playa.
- Hablando de forma fluida en otros idiomas.
- Promocionando una app de apuestas online como fuente de sus ingresos.
Otros ejemplos:
- Reversión de canciones con voces de otros artistas.
- Creación de canciones inéditas de cantantes fallecidos.
- Edición de imágenes de determinados personajes en contextos diferentes.
Esto tiene un gran impacto en sus seguidores, ya que consumen los productos promocionados por sus ídolos sin considerar su autenticidad ni los posibles riesgos involucrados.
Imágenes reales pueden ser distorsionadas para crear pornografía (“deepnudes”), lo que podría representar una forma grave de ciberacoso y vulneración a la integridad sexual de las personas.
La inteligencia artificial tiene el poder de transformar nuestras vidas y trae consigo desafíos que debemos enfrentar de manera activa. Es importante contar con medidas preventivas y herramientas que mitiguen estos riesgos, asegurando un uso responsable de estas capacidades tecnológicas avanzadas.
📱 Como usuarios y usuarias debemos chequear la legitimidad y la fuente antes de realizar la difusión de diferentes contenidos.
🤖 La IA brinda grandes oportunidades en la creación de imágenes, pero también presenta diversos riesgos y desafíos asociados con su mal uso. Te dejamos algunas recomendaciones para utilizar la IA:
- Verificá las fuentes de información.
- Actualizá tus dispositivos y apps.
- No compartas información personal innecesaria.
- Revisá los permisos de las aplicaciones.
- Informate sobre las políticas de privacidad de cada servicio antes de usarlo.
- Apagá asistentes de voz cuando no los uses.
🚨 Sobre privacidad y consentimiento de la IA:
- Genera imágenes a partir de fotos personales sin el consentimiento del individuo, violando su privacidad.
- Crea retratos de personas basándose en descripciones verbales o fotografías obtenidas sin permiso.
🚫 La tecnología de deepfake (archivos falsos) permite la creación de imágenes y videos extremadamente realistas que pueden ser utilizados para difundir información falsa. Si querés saber más sobre deepfake, te dejamos algunos materiales.
Noticia de deepfake
Video de Messi hablando en inglés
Entrevista a Messi modificada con IA
⚠️ ¿Cómo diferenciamos lo real de lo creado por IA? ¿Estamos preparados para enfrentar las implicancias de estas herramientas?
📌 𝗦𝗜 𝗧𝗘𝗡𝗘𝗦 𝗔𝗚𝗨𝗡𝗔 𝗗𝗨𝗗𝗔 𝗢 𝗖𝗢𝗡𝗦𝗨𝗟𝗧𝗔:
Escribinos a 📩 ciberseguridad@ba-csirt.gob.ar o por privado 💬 en nuestras redes.
