Tabla de contenidos.
¿Es una persona real o un deepfake?
Alguna vez te has preguntado, ¿Es una persona real o un deepfake? Bueno, imagina que... toco madera— Catfished. Además de ser una experiencia horrible, también puede provocar angustia emocional y pérdidas económicas. Pero, al igual que la teoría de la evolución de Charles Darwin, las especies vivas cambian gradualmente con el tiempo y aprenden a adaptarse a través de todo, pasamos de preocuparnos por: "¿La persona con la que estoy hablando es quien dice ser?" a "¿La persona que veo en la pantalla es un ser humano real que respira?"
Sin embargo, no es exactamente el tipo de evolución que vale la pena imaginar: la inteligencia artificial (IA) no va a desaparecer y seguirá dejando su huella en la era moderna de la tecnología. En los últimos años se ha acuñado un nuevo término en torno a la IA que se ha convertido en una amenaza para la ciberseguridad: las deepfakes.
Si bien es cierto que la tecnología detrás de los deepfakes ha logrado avances importantes en la educación y el entretenimiento, su uso indebido ha planteado desafíos morales y legales.
Engaño falso
Ser engañado por deepfakes Es algo parecido, aunque no del todo, a caer víctima del catfishing. Ambos tienen su origen en el fraude y el engaño, pero funcionan de forma diferente. Los deepfakes son mucho más avanzados, ya que esta tecnología crea nuevas imágenes o contenidos en lugar de depender de los preexistentes para crear una identidad falsa en línea.
¿Qué son los deepfakes y qué tan peligrosos pueden ser? En este artículo, analizaremos el origen de los deepfakes, cómo afectan a tu día a día, su legalidad y cómo detectarlos.
Significado y origen
Deepfakes El término deepfake proviene de las palabras “deep learning” (aprendizaje profundo) y “fake” (falso). Es un tipo de medio sintético que utiliza inteligencia artificial para crear imágenes, videos y audios falsos realistas para tergiversar a alguien diciendo o haciendo algo que la persona no dijo o hizo. El término “deepfake” se originó en 2017 cuando un moderador de Reddit con el mismo nombre de usuario comenzó a publicar videos pornográficos manipulados de celebridades. Aunque el término en sí se popularizó a fines de la década de 2010, el acto de falsificación deliberada, como usar Adobe Photoshop, ha existido durante décadas y solo continúa evolucionando.
Impacto Social
El problema principal que rodea a los deepfakes es cuando no hay un consentimiento explícito de la persona que está siendo tergiversada. Los deepfakes no son solo de naturaleza sexual, también pueden manipular no sólo a un solo individuo sino también las opiniones del público en general.
Las personas han utilizado deepfakes con fines maliciosos, como, entre otros:
- Extorsión: esto incluye aparecer en videos comprometedores como la amenaza de publicar pornografía no consentida a cambio de un rescate.
- Manipulación emocional: en las estafas románticas, se puede crear una personalidad inventada en línea donde la víctima cree que está desarrollando conexiones reales con una persona que no existe.
- Fraudes y estafas financieras: las víctimas pueden ser inducidas a creer que se están comunicando con personas reales y confiables, lo que puede generar pérdidas financieras.
- La propagación de información falsa:lo que puede crear desconfianza y confusión en entornos políticos o durante emergencias
Desde la política hasta el romance, nada es lo que parece.
¿Existen leyes contra los deepfakes?
La legislación relativa a los deepfakes aún está evolucionando ya que la tecnología plantea desafíos únicos para la ciberseguridad.
En la actualidad, la Ley de modificación del Código Penal (material sexual deepfake) de 2024 (Cth) El pasado 3 de septiembre de 2024 entró en vigor una nueva ley para combatir los deepfakes sexualmente explícitos. La ley introduce el nuevo delito de compartir imágenes o vídeos sexuales no consentidos mediante el uso de tecnología deepfake, con una pena de prisión de 6 años o 7 años si se agrava.
El Ley de privacidad de 1988 (Cth) y Ley de delitos cibernéticos de 2001 (Cth) También se puede aplicar a las víctimas de deepfakes, así como a diversas leyes estatales sobre privacidad y difamación en el país.
Si bien las leyes mencionadas anteriormente son un comienzo, se deben realizar esfuerzos legislativos para proteger a las personas contra los deepfakes.
¿Cómo detectar Deepfakes?
Según Ciberdiario AUEl setenta y nueve por ciento de los usuarios australianos de redes sociales tuvieron dificultades para detectar contenido de IA en línea, y solo el 25 por ciento confiaba en poder detectar si una llamada de un amigo o familiar real era falsa.
Los deepfakes son cada vez más reales y difíciles de detectar y más accesibles al público. Pero aquí hay algunos Señales a tener en cuenta:
- Desenfoque, pixelación, fallas en ciertas partes del video.
- decoloración de la piel y sombras inconsistentes
- cambios en la iluminación
- Mala sincronización de labios o inconsistencia en la calidad del audio
- Las emociones que se transmiten no coinciden con las expresiones faciales.
- Parpadeo insuficiente o demasiado intenso
Siempre contrasta la información y verifica tus fuentes. No existe nada que vaya demasiado lejos, especialmente cuando la frase “ver para creer” ya no es aplicable en estos tiempos.
Si necesita más información o ha sido afectado por un Deepfake, comuníquese con nuestro equipo de investigadores que pueden ayudarlo con su consulta.
