Fotos con IA para generar tráfico

Una imagen, publicada esta semana en una página de Facebook llamada "Summer Vibes", muestra a una joven sonriente con cabello castaño. Está vestida con uniforme militar, aunque, curiosamente, no lleva pantalones y el parche destrozado de la bandera estadounidense en el brazo de su chaqueta tiene sólo seis franjas y ninguna estrella. Ella es blanca. Ella es convencionalmente atractiva. Y lo más importante es que esta joven sonriente está sentada en una silla de ruedas, lo que implica que es una veterana herida o discapacitada.

"Por favor, no deslices [sic] hacia arriba sin dar un poco de amor", se lee en el título confuso de la imagen. "Sin héroes, nosotros [sic] somos todos personas sencillas y [sic] no sabemos hasta dónde podemos llegar". Luego, al título le sigue una serie de hashtags que enumeran los nombres de actrices famosas como Anne Hathaway, Megan Fox y Jennifer Lopez (así como Christian Bale y Chris Evans, por alguna razón).

No hace falta decir que la mujer no es real. Está generada por IA y, para muchos, eso es obvio. Además de la lamentablemente incorrecta bandera estadounidense pegada al uniforme, el apellido que normalmente aparecería en el bolsillo de un soldado es un grupo de manchas ilegibles que, cuando se aleja, solo emiten la apariencia de una letra. Sus dientes, ojos y oídos también son borrosos y extraños, al igual que sus manos mal definidas.

Y, sin embargo, a pesar de estos defectos evidentes, la imagen se ha vuelto viral: actualmente cuenta con más de 62.000 reacciones, casi 5.000 comentarios y 2.500 compartidos. ¿Y a juzgar por la sección de comentarios? Mucha gente, especialmente los hombres mayores, piensa absolutamente que ella es la auténtica.

"¡Gracias por su servicio sacrificado a Estados Unidos y sus ciudadanos para mantener [sic] nuestra República, nuestra Constitución y nuestros derechos y libertades otorgados por Dios [sic]!" escribió un comentarista, señalando que sirvió en el ejército durante la guerra de Vietnam. "¡Gracias Summer, eres una joven hermosa y valiente!" añadió, completando la publicación con emojis de corazón, bandera estadounidense, Estatua de la Libertad y águila calva.

"Gracias mi hermana de armas", escribió otro hombre mayor, "bendita sea por tu servicio y dedicación".

"Hermoso", añadió otro. "Gracias por su servicio y oraciones por sanidad, misericordia y consuelo de nuestro Señor Jesucristo. Amén".

"¡Señorita Hermosa Estados Unidos!" Otro hombre mayor intervino: "GRACIAS POR SU SERVICIO".

Aunque el título de la página de Facebook, "Summer Vibes", sugeriría una fuente de tragos junto a la piscina y cócteles con pequeñas sombrillas, sus publicaciones no son ni veraniegas ni siquiera vibrantes. Es una página de spam, dedicada a publicar lo que probablemente sea un flujo automatizado de imágenes y gráficos que muestran a veteranos de guerra heridos en batalla; cada publicación está equipada con el mismo título lleno de errores que implora a los usuarios que no se desplacen sin "dar un poco de amor". A pesar de las continuas súplicas de la página para apoyar a las personas en las numerosas fotografías y gráficos, no proporciona ninguna información sobre ellos ni vincula a organizaciones benéficas o donaciones. En cambio, la página sigue publicando imagen tras imagen, pidiendo me gusta, comentarios y acciones compartidas.

La gran mayoría de las imágenes de Summer Vibes parecen ser de verdaderos veteranos. Sin embargo, la mayoría de estas publicaciones no tienen mucho alcance: algunas obtienen unos pocos me gusta y comentarios, otras pueden obtener unos cientos en un buen día. Pero al igual que las ahora infames imágenes de IA de Shrimp Jesus de Facebook, sin mencionar innumerables otras salidas de IA que recientemente se han vuelto virales en la plataforma, parece que el algoritmo de recomendación de Facebook tomó al veterinario de IA sin pantalones y despegó desde allí.

Es preocupante por varias razones. Por un lado, tenemos muchos verdaderos veteranos discapacitados que merecen atención, respeto y ayuda médica y financiera. Distraerse de estos humanos reales, que históricamente han sido descuidados a su regreso del servicio, con una imagen viral de uno falso inmediatamente genera señales de alerta éticas. Y, en términos generales, imágenes como esta que obstruyen Internet, donde personas reales todavía intentan compartir información y comunicarse, no es nada bueno. (Nos comunicamos con Summer Vibes, pero no recibimos ninguna respuesta).

Luego, por supuesto, está la reacción a la imagen. En lo que respecta a las imágenes de IA, ésta ni siquiera es particularmente buena ni convincente. Pero algunos usuarios de Facebook (nuevamente, en su mayoría personas mayores, y especialmente hombres mayores) cayeron en la trampa de la foto falsa. Algunos incluso se sintieron lo suficientemente persuadidos como para rechazar a los pocos comentaristas que señalaron que la imagen fue creada por IA.

"¿Qué te hace estar tan seguro de eso?" lea una de esas réplicas.

Este tipo de reacción también tiene implicaciones más allá del clickbait sintético. En marzo, un informe de la BBC reveló que personas influyentes y expertos del MAGA estaban utilizando inteligencia artificial para generar imágenes fabricadas del expresidente Donald Trump posando con grupos de votantes negros, un grupo demográfico con el que el candidato presidencial espera conseguir más apoyo en su actual campaña electoral de 2024. campaña.

Cuando miramos los comentarios en una de estas fotos falsas, que fue publicada en Facebook por una personalidad de los medios de extrema derecha como parte de su esfuerzo por vender un libro navideño inspirado en Rush Limbaugh (sí, en serio), notamos comentarios elogiosos y despistados. . Algunos usuarios elogiaron a Trump; algunos usuarios emitieron oraciones; otros simplemente comentaron la "hermosa foto". ¿Suena familiar?

Y ese es sólo un ejemplo del uso convincente de la IA en contenido político. La IA se está infiltrando cada vez más en las campañas políticas y los ciclos electorales en todo el mundo, incluida la carrera de 2024 en Estados Unidos, y los expertos han advertido repetidamente sobre los riesgos asociados. Enviar spam a la web con fotografías de veteranos falsos y atractivos, aunque objetivamente sea algo malo, es una cosa. Pero después de pasar algún tiempo en la tierra maldita que son los comentarios de Facebook, es difícil no salir con la incómoda sensación de que suficientes imágenes falsas podrían hacer mella en lo que un gran grupo de personas cree que es verdad.

En un año importante, podría importar que los viejos en Internet estén mirando más allá de los dedos destrozados y el uniforme desordenado de esta morena extremadamente falsa y agradeciéndole por su servicio.