“A nadie le gusta mi trabajo artístico”, “¡Lo hice con mis propias manos!”, “Mayo 2024 es tu mejor año”, son algunos de los textos que acompañan miles de extrañas imágenes de Jesucristo generadas por inteligencia en Facebook. artificial. El algoritmo de la red las promociona, algunas se vuelven virales y consiguen atraer enormes audiencias a páginas que luego aprovechan su éxito para monetizar o incluso estafar a los usuarios.
“Las imágenes son cautivadoras: algunas son hermosas, otras sensacionales y otras simplemente extrañas”, dice Renée DiResta, investigadora de la Universidad de Stanford y coautora de un artículo de marzo sobre este fenómeno titulado “Cómo spammers y los estafadores utilizan imágenes generadas por IA en Facebook para aumentar la audiencia”. Miles de usuarios interactúan con estas imágenes, muchos con un simple “amén”, lo que podría significar que son bots.
Facebook se ha convertido con el paso de los años en una red donde se comparten contenidos y un objetivo básico es aumentar la audiencia. Los Jesucristos son otro recurso fácil de crear y que llama la atención: “La competencia por la atención entre los creadores de páginas significa que usarán cualquier táctica que parezca funcionar, que ahora incluye publicar contenido generado por IA que recomienda sistemas que parecen estar promoviendo. ”, continúa DiResta.
Los textos añadidos por los autores sirven para promover esta viralidad. En algunas imágenes, un niño negro se encuentra junto a un Jesucristo hecho de espaguetis y el texto dice: “Gracias a todos los que aprecian mi arte”. Ninguna de estas imágenes indica que hayan sido realizadas artificialmente.
El artículo académico ha estudiado 120 páginas de Facebook que han publicado al menos 50 imágenes generadas por IA cada una. Prueba del éxito es que las páginas contaban con una media de casi 130.000 seguidores. Poco después de ver esas fotografías, el algoritmo de Facebook ofreció más ejemplos y nuevas variantes. Los que ha visto EL PAÍS eran de páginas de usuarios latinoamericanos que combinaban estas imágenes religiosas con memes, animales y bodegones también hechos con IA, donde sobrescribían “buenos días” o vídeos divertidos. Uno de ellos, un haitiano residente en México, respondió brevemente a este diario que él sí hizo esas imágenes, que a la gente le gustan mucho, y reconoció que con ellas se puede ganar algo: “Sí”, respondió, pero no Quiero explicar cómo. . Este usuario tenía más de 7.000 seguidores.
Más allá de las trampas dentro de Facebook, el debate de fondo es: si la gente confunde estas imágenes ridículas con arte real, ¿qué pasará cuando lo generado por la IA sea verdaderamente realista? No hay certezas, aunque tampoco todos están confundidos. Debajo de una de estas fotos un usuario dice: “Que maravillosa escultura estas son manos bendecidas por Dios, mi amor, eres una genia, Dios te bendiga hoy mañana y siempre felicidades desde Colombia”. Otro respondió: “Ay señora, ¿cómo puede usted creer en estas cosas, qué fácil es engañarse, no se da cuenta que es una imagen falsa? “No hay que creer todo lo que se publica en las redes”.
La crédula mujer recibió otra respuesta que ilustra uno de los tipos de estafa. Si alguien cree que estas imágenes falsas son reales, probablemente sea más ingenuo y fácil de estafar: “Soy francesa y han pasado más de 13 años desde que mi marido maduró”. [sic] en un accidente de coche. Después de mi muerte, heredé la fortuna de mi marido. Considerando mi avanzada edad y mi salud, decidí ayudar económicamente a las personas que deseen recibir asistencia financiera para sus necesidades, ya que no tengo hijos para beneficiarme de mi herencia y no quiero que el gobierno congele mi fortuna después de mi muerte. Entonces si te interesa la actividad económica envíame un mensaje”, y agregó un enlace a un número real de WhatsApp.
“Las cuentas fraudulentas ocasionalmente interactúan con comentaristas crédulos en publicaciones, tanto en páginas como en grupos, a veces solicitando información personal sobre ellos u ofreciendo vender productos que no existen”, explica el artículo. Una vez que se crea una audiencia en un grupo o página, las formas de intentar extraer beneficios varían: “Marcamos páginas como ‘estafas’ si: uno, engañan a los seguidores robándoles, comprando o cambiando el control de la página; dos, indicar falsamente un nombre, dirección u otra característica identificativa; y/o, tres, venden productos falsificados”, detalla el artículo académico.
Algunas de las páginas que utilizan estas tácticas suelen cambiar de nombre y mantener a sus seguidores para hacer otra cosa o vender a la audiencia. Las páginas de spam aprovechan la atención para dirigir a los usuarios a páginas fuera de Facebook que están llenas de anuncios.
Jesucristo es sólo uno de los principales reclamos. En el tercer trimestre de 2023, una de las 20 imágenes más vistas en Facebook a nivel mundial fue esta cocina con suelo de cristal. Tuvo 40 millones de visualizaciones y 1,9 millones de interacciones, según el informe trimestral de la plataforma sobre sus contenidos más vistos. Algunas de las páginas que prueban esta trampa prueban también animales, niños, cabañas o paisajes, cualquier cosa que pueda llamar la atención en Facebook: “Así como Picasso tuvo su época azul, las páginas pasaban muchas veces por períodos, unas cuantas decenas de esculturas de nieve; unas cuantas docenas de tallas de sandías; unas cuantas docenas de tallas de madera; unas pocas docenas de platos de sushi ingeniosamente dispuestos, cada uno con un estilo muy similar”, dice el artículo.
“Sospechamos que estos altos niveles de participación están impulsados en parte por el algoritmo de recomendación de Facebook”, dicen en el artículo DiResta y su coautor Josh A. Goldstein, de la Universidad de Georgetown. Hace dos años, según un documento filtrado de Meta, la red social cambió su algoritmo para parecerse más a TikTok. El objetivo era, según el documento, “ayudar a las personas a encontrar y disfrutar contenido interesante independientemente de si fue producido por alguien con quien estás conectado o no”. Los autores muestran cómo este contenido “Sugerido para ti” pasó -como porcentaje del número de visualizaciones- del 8% en 2021 al 24% en 2023.
Aunque el centro de todas estas imágenes virales es Facebook, también está Instagram: “Las imágenes generadas por IA también son populares en Instagram”, dice DiResta. “Están en Twitter y en todas partes, pero el diseño de Facebook e Instagram hace que las personas creen tipos específicos de contenido visual y construyan audiencias con el tiempo”.
En febrero, Meta anunció que etiquetaría el contenido generado por IA en Facebook, Instagram y Threads. De momento no ocurre en ninguno de estos casos. Para evaluar los peligros potenciales, este detalle es importante. Aunque en algunos casos es fácil detectar imágenes generadas por IA, no siempre será así: “Incluso en los casos en los que hay signos evidentes, identificarlos requiere todavía mucho esfuerzo cognitivo, y puede que no sea realista esperar que usuario promedio de Facebook simplemente navega”. Mira tu cronología.
puedes seguir EL PAÍS Tecnología en Facebook y X o regístrate aquí para recibir nuestra boletín semanal.
