Las DeepFake como nuevas Fake news
Accede a más info y capacitación
24/05/2022

Las DeepFake como nuevas Fake news

Los posteos de Matt Bell realizados con Dall E2 no pudieron ser diferenciadas por el ojo humano

Compartí la noticia

Roatán es un lugar increíble para bucear, con algunos de los mejores arrecifes del hemisferio occidental. El terreno de los arrecifes es complejo y muy tridimensional, con profundos cañones, cavernas y nados, y hay una riqueza de vida marina y especies de coral. Así es como se veía:
Casualmente, tuve acceso a DALL-E 2 mientras estuve allí la semana pasada. Comencé a preguntarme: "¿Podría usar DALL-E 2 para crear unas vacaciones falsas? O, más éticamente, ¿podría usar DALL-E 2 para recrear eventos de mis vacaciones que realmente sucedieron, pero no pude obtener una buena foto de ellos?" Comencé a usar su interfaz para generar algunas fotos de vacaciones sintéticas, y de hecho una buena parte de ellas eran lo suficientemente buenas como para hacerlas pasar por reales.

Decidí probar la calidad de estas imágenes sintéticas mezclándolas en una publicación de Facebook con imágenes reales. La publicación comenzó así

 

Los usuarios se desplazaron por las fotos una por una, ya sea en un carrete de diapositivas en la interfaz web o en una columna en la interfaz móvil. Hubo 22 fotos reales, cuatro sintéticas y una imagen final que reveló el experimento. Todos los sintéticos vinieron después de los reales.
La revelación:

Un increíble 83% de las personas (19 de 23) que respondieron a la encuesta al final pasaron por alto el hecho de que había algo diferente en las imágenes de DALL-E. Esto funcionó a pesar del hecho de que la marca de agua DALL-E reveladora estaba en la esquina inferior derecha (para cumplir con las reglas de acceso de OpenAI'a), y el hecho de que las imágenes tenían una relación de aspecto diferente y más granulada. Mi grupo de amigos también es una audiencia relativamente sofisticada que es muy consciente de la existencia de DALL-E y deepfakes.

Esto es lo que creo que está pasando:

Nuestros cerebros están en parte en piloto automático cuando navegamos por las redes sociales, y examinar las imágenes requiere un trabajo mental adicional.

Hay una gran publicación de blog que leí hace un tiempo que señaló que el texto generado por GPT-3 ya pasa la Prueba de Turing para los usuarios que están hojeando el texto y no prestan mucha atención.

Creo que algo similar está sucediendo aquí, donde revisamos galerías de imágenes a un ritmo de uno cada dos segundos, y en realidad es difícil detectar los signos sutiles de deepfakery en un par de segundos, incluso si estás prestando mucha atención.
Es probable que con una versión más dura de la prueba de Turing, en la que las imágenes reales y falsas del mismo contenido se presentan una al lado de la otra y se le dice a la gente que una de ellas es falsa, sería mucho más fácil detectar las imágenes falsas.


Una publicación de Facebook compartida entre amigos es un entorno de alta confianza y bajo riesgo, por lo que las personas no están en un espacio de cabeza para examinar las imágenes. Si observa detenidamente algunas de las imágenes de DALL-E, puede ver algunos signos reveladores obvios de falsificación. Hay mangueras de buceo en ninguna parte en la foto falsa del buzo, y las aletas se desenfocan. (Le di instrucciones al algoritmo para que usara aletas rosas para que coincidieran con las que Helen usa en la vida real, y me complació que se ejecutara bien en eso).
Como señaló un comentarista de Facebook, los entornos submarinos son lo suficientemente extraños como para que la mayoría de las personas no tengan buenos antecedentes subconscientes para detectar falsificaciones. Dicho esto, había muchos buceadores ávidos que fueron engañados.
Todavía no estamos lo suficientemente bien sintonizados para detectar deepfakes, pero esto llegará con el tiempo. Recuerdo haber visto The Fifth Element (1997) en el teatro cuando era niño y haber quedado impresionado pero el Future Manhattan CGI, pero ahora parece algo que un estudiante universitario haría en un curso de Introducción a la Animación por Computadora. La diferencia es que nuestros cerebros ahora están entrenados para detectar los signos reveladores de la animación por computadora. Sin embargo, los deepfakes mejorarán con el tiempo, tal como lo hizo la animación por computadora.
Dicho todo esto, DALL-E 2 es realmente bueno, lo suficientemente bueno como para producir imágenes de archivo utilizables para una variedad de aplicaciones. Todavía lucha con las caras, así como con escenas complejas donde el mensaje tiene varios adjetivos adjuntos a varios sustantivos, pero puede producir imágenes fotorrealistas o arte estilizado que es utilizable la mayor parte del tiempo dada alguna curaduría humana. Parece que estas redes están haciendo una variante de "adivinar la contraseña del maestro" en lugar de comprender realmente lo que están dibujando, y con el tiempo estas fallas podrían abordarse mediante un mayor uso de datos de entrenamiento 3D para que las redes comiencen a aprender la forma real y la conectividad funcional de los objetos en lugar de solo cómo se ve un rango de vistas 2D de ellos.
Si bien me preocupa el efecto de los deepfakes en, digamos, la política, los últimos años en Estados Unidos han demostrado que no se necesitan deepfakes para engañar a la gente; todo lo que necesitas es una mentira descarada que la gente quiera creer, y si la repites lo suficiente, puedes convencer a millones de personas de tu mentira a pesar de la abrumadora lógica y la evidencia de lo contrario.

Mientras tanto, la frontera para expandir las habilidades creativas visuales de las personas está abierta de par en par, y estoy emocionado de ver lo que traerán los próximos años. Creo que los sistemas de imagen generativa no dejarán obsoletos a los artistas más de lo que lo hizo Photoshop; son simplemente otra herramienta para amplificar la conexión entre la imaginación y una manifestación física de ella, y la imaginación sigue siendo el escaso bien que poseen los buenos artistas.

Accede a más info y capacitación

NOTICIAS IMPORTANTES

Suscribite a nuestro NewsLetter y recibí todas las noticias en tu mail