La llegada de Grok y Sora está revolucionando la creación de contenido. Mientras sus logros se muestran en las redes, estas tecnologías trastocan la confianza pública y redefinen los límites entre la realidad y la ficción, planteando desafíos al corto plazo.
Susana habla con Mary, el personaje que la hizo famosa 50 años atrás. Parece magia o una película de Disney. Su pasado, como en un cuento de hadas, se maravilla con las luces del estudio y el alcance de su carrera y su vida. El cruce con su otro «yo», contrario al sentido común, no le produce horror. No sufre la perplejidad de encontrar una versión octogenaria que ocupa su lugar y la interroga. Mary se encuentra ante el futuro y no se resiste a los cambios del mundo, la falsa identidad ni el paso del tiempo. Ella goza fascinada, como si las reglas existenciales del ser y del tiempo hubieran sucumbido raudas ante la gracia de la tecnología.
El término deepfake proviene de la combinación de dos conceptos: deep learning (aprendizaje profundo) y fake (falso). Su popularidad se remonta al 2017, cuando un usuario de Reddit, bajo el nombre r/deepfakes, publica videos manipulados de celebridades en contenido pornográfico. Aunque existen antecedentes, este evento marcó un punto de inflexión en la difusión y uso del término.
Esta tecnología utiliza poderosos algoritmos basados en redes generativas antagónicas (GAN) y la inteligencia artificial para la manipulación de imágenes, voz y textos. A partir del entrenamiento de un modelo este avance logra resultados ultrarrealistas que confunden y engañan a la mayoria. La tecnología deepfake gracias a su facilidad de uso, permite crear narraciones tiernas como la de Susana, pero también plantea peligros como la suplantación de identidad para estafas y las fake news.
DeepTrends
Según un informe de Regula, los incidentes de deepfakes casi se duplicaron entre 2022 y 2024, generando un pérdida de cerca de 450 mil dólares por empresa. En sectores como el financiero, esta cifra crece de forma alarmante.
Aunque por lo general se asocia al deepfake con el contenido audiovisual, esta tecnología también se utiliza para la falsificación de documentos. ¿Recuerdan a Leonardo DiCaprio en Atrápame si puedes? Pues bien, las técnicas de deeplearning también se aplican para la imitación de modelos de documentos y el análisis de sus vulnerabilidades. ¿Podría los datos biométricos ser la solución o representan, en cambio, un herramienta para ejercer un control desmedido sobre la población?
El logro de las imágenes, llevó a expertos a buscar que tan identificables puede ser esta tecnología. En busca de ayudar a la identificación de imágenes falsas, un grupo de científicos realiza un experimento llamado Detect Fakes, que consiste en medir la agilidad de las personas para detectar contenido falso. En el sitio, además se brindan consejos para distinguir lo verdadero de lo falso.
Puedes hacer el test presionando aquí.
La facilidad de uso de esta tecnología plantea interrogantes sobre el futuro de la población y la ciberseguridad.
¿Hacia dónde nos lleva la inteligencia artificial? En nuestro documental ‘IA: El amanecer del control’, exploramos cómo esta tecnología está transformando nuestras vidas y redefiniendo el futuro. Desde sus aplicaciones más asombrosas hasta los dilemas éticos que plantea, te invitamos a reflexionar sobre lo que está por venir. No te pierdas esta profunda mirada al futuro de la IA. Míralo aquí: IA: El amanecer del control.
En el ámbito de las redes sociales, las imágenes o videos deepfakes se utilizan para desinformar o manipular la opinión publica. Un ejemplo reciente ocurrió en Argentina durante las elecciones de 2023, cuando se viralizaron imágenes falsas de un candidato a presidente, en supuesto estado de consumo de estupefacientes. Esto generó controversia y polarización.
En california para prevenir situaciones como la de Argentina se sancionaron varias leyes.
La AB-2655 (Ley de Defensa de la Democracia contra el Engaño Deepfake de 2024) que como objetivo busca mitigar la circulación de contenido engañoso generado con IA durante las elecciones. Otra ley, la SB-942 obliga a los sistemas de IA generativa colocar información (invisible) que ayude a identificar el contenido generado con inteligencia artificial. Además, se insiste en presionar para responsabilizar a las plataformas en línea sobre la circulación de contenido en la redes.
Esta norma no aplica a radiodifusoras, diarios, revistas ni a medios etiquetados como satíricos o paródicos dejando una brecha que permite la proliferación del contenido.
La línea que separa la información real de la manipulada es extremadamente frágil. Basta con una pequeña leyenda apenas visible o con que alguien, impulsado por la emoción comparta el contenido sin verificar y listo.
A pesar de ello, estas medidas adquieren relevancia si consideramos que california alberga 32 de las 50 empresas IA más importante del mundo.
En este contexto, y teniendo en cuenta el contenido que se genera en redes, el foro de Davos posiciona a la desinformación y a los ciberataques entre las principales preocupaciones globales al corto plazo.
A pesar de este complejo escenario y las advertencias, el lanzamiento de aplicaciones que facilitan la creación de contenido deepfake no cesa.
Sora y Grok dos pájaros de un tiro
Esta semana, OpenAI lanzó Sora, una inteligencia artificial diseñada para generar imágenes ultrarrealistas a partir de textos. La galería inicial de la aplicación presenta imágenes creativas que destacan por su realismo y fluidez. Sin embargo, usuarios que esperaban con expectativas su lanzamiento, expresaron su descontento ante lo que consideran una decisión apresurada por parte de la empresa. Las críticas surgen debido a resultados que, para muchos, no alcanzan los estándares esperados, calificando la herramienta como un proyecto aún en desarrollo.
A pesar de las quejas, OpenAI ofrece con Sora una herramienta accesible para quienes buscan crear contenido sorprendente a un costo muy bajo. Esta aplicación se suma a un listado de opciones como Haliou y Runway, que destacan por su calidad excepcional y su asequibilidad. ¿Se imaginan realizar películas completas en el corto plazo utilizando solo un par de prompts?
Esta innovación también plantea interrogantes sobre su impacto potencial en la industria del cine, desde la producción tradicional hasta el rol de los creadores.
En esta misma línea, y de la mano de Elon Musk, se lanzó esta semana la versión gratuita de Grok, la inteligencia artificial de X. Esta aplicación permite realizar consultas, generar resúmenes y crear imágenes únicas a partir de textos. No pasó mucho tiempo para que la plataforma del creador de Tesla se llenara de miles de imágenes ingeniosas que rápidamente se viralizaron por las redes sociales, mostrando el potencial creativo de esta herramienta.
La falsa esperanza
Como mencionamos anteriormente, la facilidad con la que se generan imágenes y contenido en línea plantea desafíos que no podemos ignorar. El MIT ha identificado varios puntos clave para detectar posibles manipulaciones deepfake, que merecen nuestra atención en esta era de realidades fabricadas:
- Rostro: Los deepfakes suelen centrarse en transformaciones faciales.
- Piel: ¿La textura de las mejillas y la frente parece natural? ¿El envejecimiento de la piel es coherente con el cabello y los ojos?
- Sombras: Fíjate en los ojos y las cejas; las sombras deben comportarse de forma realista según la luz.
- Gafas: Los reflejos y deslumbramientos deben cambiar de manera coherente con el movimiento y la iluminación.
- Vello facial: Observa si barba, bigote o patillas lucen naturales o presentan inconsistencias.
- Lunares: Los lunares deben parecer auténticos y armonizar con la textura de la piel.
- Parpadeo: Evalúa si la frecuencia de parpadeo es natural o inusual.
- Labios: Los movimientos deben coincidir fluidamente con el habla, sin desincronización.
Estos detalles marcan la diferencia entre identificar un contenido auténtico o ser víctimas de una ilusión tecnológica.
El auge de aplicaciones como Grok o Sora, sumado a la falta de normas que protejan nuestra identidad y nuestra imagen, alimenta un ecosistema que produce contenido a una velocidad abrumadora sin siquiera interrogarse sobre las consecuencias inmediatas.
La política consciente de este vacío parece mirar hacia otro lado, mientras la inteligencia artificial no solo construye realidades alternas, sino que nos envuelve en un deslumbrante engaño. Nosotros, como Mary, observamos ingenuos las luces que nos fascinan, sin advertir que la realidad está siendo para muchos, otra puesta en escena.
Deja una respuesta