Bangalore, India – A principios de marzo, una imagen realista generada por IA del primer ministro indio Narendra Modi, con el estilo Bhishma Pitamah de la antigua epopeya hindú Mahabharata, fue promocionada como publicidad política en Instagram.
Con cabello largo y ondulado de color gris, una marca en forma de sol en la frente y una armadura corporal, la imagen representaba lo que los fanáticos de Modi ven como su papel en el mundo actual: una reencarnación del comandante supremo Bhishma que luchó contra amenazas extranjeras.
Esta imagen de Instagram, creada por la página de derecha Hokage Modi Sama y publicada por primera vez en 2023, fue promocionada como anuncio político durante dos días en marzo, obteniendo más de 35.000 impresiones.
Una revisión de Al Jazeera de los datos de la Meta Ad Library sobre anuncios políticos en la India durante los últimos tres meses reveló que, entre el 27 de febrero y el 21 de marzo, Hokage Modi Sama promovió casi 50 piezas de imágenes de Modi generadas por IA, lo que lo convirtió en el principal anunciante de Imágenes Modi generadas por IA en Instagram.
La Meta Ad Library es un archivo público que alberga una colección de anuncios políticos publicados en sus plataformas, que incluyen Instagram y Facebook.
El tema común en todas las imágenes compartidas por el identificador fue la valoración de Modi como líder hindú. Imágenes populares de IA impulsadas a través de publicaciones patrocinadas en Hokage Modi Sama muestran a Modi como una reencarnación de Bhishma, un hijo de dios vestido con traje, que abraza la herencia hindú y el rey del Hindu Rashtra sentado en su trono, obteniendo millones de me gusta y visitas. (Hindu Rashtra es la ideología polémica de un gobierno de mayoría hindú en la India, un alejamiento de su principio fundacional secular).
“A través de estas imágenes, el intento parece ser impartir simultáneamente una cualidad de sabio y guerrero a Modi, las cuales crean el aura de un líder político que es infatigable, invencible, irreprochable y, por lo tanto, digno de nuestra lealtad incuestionable. ”, dijo a Al Jazeera Amogh Dar Sharma, profesor de la Universidad de Oxford que estudia comunicaciones políticas.
Pero las publicaciones del anunciante en línea más prolífico sobre las imágenes de IA de Modi también muestran los desafíos que implica hacer cumplir las reglas relacionadas con la IA en las redes sociales, en medio de temores de que las imágenes manipuladas se aprovechen para la propaganda entre los votantes que tal vez no comprendan completamente el alcance de la alteración que las fotos y Los memes podrían haber pasado.
Meta es consciente de dicho uso y, antes del crucial año electoral 2024, anunció que a partir de enero, los anuncios políticos en Instagram y Facebook creados con inteligencia artificial (IA) tendrán que revelar el uso o correr el riesgo de ser prohibidos.
En los 30 días previos al 29 de marzo, Hokage Modi Sama gastó 537.799 rupias indias (6.500 dólares) para impulsar 363 piezas de contenido político, incluidas imágenes y vídeos en su página de Instagram, según datos de Meta Ad Library. Nuestro análisis muestra que casi el 14 por ciento de todos los anuncios patrocinados, que ascienden a 50 imágenes, fueron generados por IA.
Todos los anuncios de IA de Hokage Modi Sama fueron publicaciones patrocinadas en Instagram y la divulgación del uso de la IA se realizó a través de hashtags como #aiartwork, #midjourneyart, #midjourneyai y otros. Midjourney, al que parecen referirse los hashtags, es un popular programa de inteligencia artificial generativa..
Pero Meta le dijo a Al Jazeera que los hashtags no son una divulgación aceptable para un anuncio creado o modificado digitalmente. En los casos en que los anunciantes necesiten revelar que su contenido fue creado o modificado digitalmente, Meta agregará una etiqueta que diga “Creado digitalmente” cerca del descargo de responsabilidad “Pagado por”, incluso en la Biblioteca de anuncios. Actualmente, estas etiquetas no están presentes en los anuncios de Hokage Modi Sama AI.
Meta no respondió a la pregunta específica de Al Jazeera sobre si los anuncios de imágenes fotorrealistas de Modi violaban su política de representar a una persona real haciendo algo que ella no hizo, o representar un evento de apariencia realista que no sucedió.
En cambio, Meta señaló al periodista de Al Jazeera una publicación de blog de marzo de 2024 sobre los requisitos de divulgación de IA para los anunciantes y cómo la compañía se está preparando para las elecciones indias.
Prateek Waghre, director ejecutivo de Internet Freedom Foundation (IFF), con sede en India, dijo a Al Jazeera que dado que estos anuncios en particular están etiquetados como #aiart, es necesario que los creadores de contenido reconozcan el intento de impulsar las imágenes de IA de alguna forma. de divulgación para cumplir con las políticas recientemente actualizadas de Meta que requieren divulgación de IA.
La IA solía impulsar ‘narrativas estratégicas’
Las campañas electorales indias han sido un vehículo para una lenta difusión de imágenes y videos generados por IA, incluso a través de resurrecciones de líderes políticos muertos por IA, y su uso como arte de campaña en cuentas oficiales de partidos, como informó anteriormente Al Jazeera. A pesar de la amenaza de desinformación electoral generada por IA, los deepfakes no se utilizan exclusivamente para engañar a los votantes. En cambio, se está utilizando la IA generativa para construir una narrativa.
“Si bien la desinformación es definitivamente un problema grave que requiere nuestra atención, también desvía la atención de las formas más subliminales en las que el contenido generado por IA puede ayudar a impulsar narrativas estratégicas de los partidos políticos”, dijo Sharma de la Universidad de Oxford a Al Jazeera, después de revisar la IA. anuncios de imagen.
“No se trata simplemente de que AI esté ‘engañando’ a los votantes haciéndoles creer en algo que es descaradamente falso; más bien, la IA permite producir contenido que es más creativo y que puede basarse en referencias culturales más innovadoras; esto produce propaganda política que es más entretenida y, por lo tanto, más compartible, lo que permite una circulación generalizada”, añadió.
Por ejemplo, la imagen de IA más popular publicada en la página del Hokage Modi Sama es “Nuestro superhéroe azafrán”. Muestra a Modi vistiendo un pijama kurta de color azafrán y una capa suelta caminando bajo la bandera “Om”, un símbolo espiritual hindú. La imagen de IA tiene casi dos millones de me gusta con comentarios como: “¿Quién quiere que la India sea una nación hindú?”. en la sección de comentarios de Instagram. La mayoría de las imágenes presentan al primer ministro indio como un “salvador”, “guardián vestido de azafrán del futuro de la India”, “símbolo del renacimiento hindú” y más.
Sharma señaló que si bien mitificar a los líderes políticos o presentarlos en epopeyas hindúes no es algo nuevo, la IA permite ejecutarlo con mayor delicadeza.
“Estas imágenes de Narendra Modi generadas por IA parecen ser la última versión de una estrategia de largo plazo del BJP para crear un culto sobre [Modi] como un líder sabio y sagaz”, dijo Sharma.
Si bien las páginas de Instagram y Facebook de Hokage Modi Sama no tienen descargos de responsabilidad explícitos sobre una afiliación directa al Partido Bharatiya Janata (BJP) de Modi, la página tiene un historial de publicación de contenido pro-Hindutva y pro-BJP. Anteriormente, la página había ganado fuerza después de compartir una https://twitter.com/HokageModi/status/1671428441441452033 de plataforma de redes sociales
Múltiples intentos de contactar al administrador del Hokage Modi Sama no tuvieron éxito. En el anime Naruto, “Hokage” es un título prestigioso otorgado al líder de una aldea, mientras que Sama es una forma respetuosa de decir “señor” en japonés, por lo que la página significa aproximadamente “Líder Modi Señor”. La cuenta de Instagram con 130.000 seguidores ahora vende productos como camisetas, tazas de café y agendas basadas en la imagen del superhéroe azafrán AI.
A nivel mundial, las imágenes de IA se han utilizado en campañas políticas. En marzo, los partidarios de la campaña del candidato presidencial estadounidense Donald Trump utilizaron imágenes falsas de inteligencia artificial de él posando con votantes negros para un “acercamiento estratégico” a la comunidad negra. En Argentina, dos aspirantes a la presidencia utilizaron imágenes generadas por inteligencia artificial para aumentar su popularidad y atacar a sus oponentes. Y en Indonesia, el presidente electo Prabowo Subianto, el otrora temido dictador militar, utilizó imágenes de IA para rebautizarse como un “abuelo tierno” en su campaña electoral.
En India, en el período previo a las elecciones estatales de Telangana en diciembre de 2023, el medio de verificación de datos BOOM Live informó que imágenes de IA retrataban falsamente al líder político regional K Chandrashekar Rao en el lanzamiento de un programa de comidas gratuitas para estudiantes, al que nunca asistió. .
Una revisión de Al Jazeera de la Meta Ad Library de diciembre de 2023 reveló que la página Mana Telangana compartió múltiples imágenes falsas de IA en Instagram y Facebook del líder de la oposición india Rahul Gandhi, del Partido del Congreso, posando con niños y agricultores. Los agricultores constituyen un bloque de votantes influyente en la India y con frecuencia han protestado contra las leyes agrícolas favorables al mercado de Modi.
La imagen falsa de Gandhi con los agricultores iba acompañada de la leyenda: “Rahul Gandhi se identifica con los agricultores y les promete un apoyo inquebrantable y un compromiso para abordar sus preocupaciones de forma individual”. La publicación patrocinada contenía los hashtags #aigenerated y #aiimages, lo que indica que fueron generados por IA y tuvo aproximadamente 7000 impresiones.
Occidente versus Sur Global
También existe una disparidad en la forma en que las plataformas de Occidente y del Sur Global desafían la tendencia de las imágenes de IA antes de las elecciones.
Por ejemplo, para mitigar el posible abuso de las imágenes de IA antes de las elecciones presidenciales de noviembre en Estados Unidos, el popular generador de imágenes de IA Midjourney prohibió en marzo la creación de imágenes falsas del presidente Joe Biden y Donald Trump.
Pero no ha habido tales medidas en India, lo que genera “preocupación sobre la aplicación equitativa de las políticas por parte de las plataformas tecnológicas en diferentes regiones”, dijo a Al Jazeera Baybars Orsek, director general de Logicically Facts. Logically Facts es parte del programa de verificación de datos de terceros de Meta y parte de la alianza de lucha contra la desinformación en India.
Los intentos de Al Jazeera de generar imágenes de IA en Midjourney de Modi y Gandhi dándose la mano tuvieron éxito, mientras que el mensaje para generar una imagen de Modi y Trump dándose la mano resultó en una notificación de “Mensaje prohibido detectado”.
“Esta decisión saca a la luz las disparidades en cómo se aplican dichas políticas de moderación a nivel mundial, especialmente en el contexto del Sur Global, incluidos países como India, que se acerca a las elecciones más importantes del año”, dijo Orsek.
Al Jazeera envió un correo electrónico a Midjourney sobre la disparidad con moderación y aún no ha recibido respuesta.
Es similar a cómo las políticas de las empresas de medios sociales como Facebook o Twitter para mantener seguras sus plataformas están sesgadas hacia Occidente y a menudo descuidan las perspectivas del Sur Global, incluido Waghre del IFF.
