Microsoft ha anunciado que está ampliando sus herramientas de integridad de contenidos para organizaciones, partidos políticos y medios de comunicación de la Unión Europea, con el lanzamiento de Credenciales de Contenido, una opción diseñada para verificar que el contenido publicado es veraz y frenar el uso engañoso. de Inteligencia Artificial (IA) generativa en procesos electorales.
En el marco de un año electoral en el que la Unión Europea celebrará elecciones parlamentarias este verano, entre el jueves 6 y el domingo 9 de junio, y aproximadamente la mitad de los países europeos celebrarán elecciones nacionales o regionales, la tecnológica estadounidense ha compartido su intención de ayudar a fomentar democracias “saludables” a través de “ecosistemas de información saludables”.
Para ello, ha destacado la importancia de ayudar a los votantes a comprender la información que encuentran en línea, dado el impacto que la IA generativa tiene en los procesos electorales y el ecosistema de la información.
En noviembre del año pasado, Microsoft lanzó una serie de herramientas de integridad de contenido, diseñadas para proteger las campañas electorales en Estados Unidos, incluidas opciones como Content Credentials, una marca de agua digital que identifica el contenido creado por IA para negar los ‘deepfakes’ y ‘fake’. noticias’ que se comparten en Internet.
Ahora, Microsoft ha ampliado el acceso previo a estas herramientas a partidos políticos, campañas y organizaciones de noticias de la Unión Europea, para que estas organizaciones puedan verificar que el contenido publicado en línea proviene de su organización de forma verificable.
Es decir, son herramientas con las que las organizaciones pueden tener control sobre sus propios contenidos y asegurarse de que no se trata de contenidos falsos generados por IA o un caso de manipulación. De esta forma, evitan posibles engaños o errores a los ciudadanos en un contexto político.
En concreto, como compartió en un comunicado en su blog, las herramientas de integridad de contenido de Microsoft permiten generar Credenciales de Contenido, una marca de agua digital que se puede agregar a imágenes u otro tipo de publicaciones para incluir información como dónde y cuándo se creó, quién lo publicó, si fue generado por IA o si la imagen ha sido editada o manipulada.
De esta manera, cuando los usuarios visualizan contenidos en Internet o redes sociales con estas Credenciales de Contenido, pueden estar seguros de que la publicación es original de la organización, medio de comunicación o partido político en cuestión.
Siguiendo esta línea, con este sistema los usuarios también pueden obtener información sobre si las imágenes o videos han sido alterados de alguna forma, luego de que la organización agregara las Credenciales de Contenido. Esto se debe a que la función le permite acceder a un historial de edición.
Con todo esto, Microsoft ha explicado que las Credenciales de Contenido son una opción creada en base al estándar de la industria de código abierto publicado por la Coalición para la Procedencia y Autenticidad del Contenido (C2PA).
Para crear Credenciales de Contenido, Microsoft ha puesto a su disposición diferentes herramientas. En concreto, ha lanzado una aplicación web privada y “fácil de usar” para que las organizaciones puedan añadir información de credenciales a su propio contenido autorizado.
También ha lanzado una aplicación móvil privada, con la que se pueden capturar fotografías, vídeos y audio de forma segura y autenticada para añadir credenciales de contenido en tiempo real desde un smartphone. Tal y como ha aclarado Microsoft, esta aplicación ha sido desarrollada junto con la empresa Truepic.
Finalmente, se ha habilitado un sitio web público para verificadores de datos, con el cual cualquier usuario puede ratificar las Credenciales de Contenido de imágenes, audios o videos.
Con todo ello, Microsoft ha detallado que estas herramientas de identidad de contenido, incluidas las Credenciales de Contenido, podrán ser utilizadas en una vista previa privada y de forma gratuita, a lo largo de 2024, por organizaciones, partidos políticos y medios de comunicación a nivel global. .
Aunque la tecnológica ha reconocido que estas herramientas “no son una panacea para solucionar el problema de los deepfakes”, también ha subrayado que “son un componente crítico de una estrategia de defensa de los medios fiables”.
“Proteger el acceso a los indicadores de autenticidad es sólo un paso clave a medida que cumplimos nuestros compromisos de ayudar a proteger las elecciones en todo el mundo”, dijo Microsoft.
En este marco, la compañía ha recordado el acuerdo tecnológico que llevó a cabo a principios de este año junto con otras 20 empresas, entre ellas Google y OpenAI, para combatir el uso engañoso de vídeos, audios e imágenes que alteran la apariencia, la voz o las acciones de candidatos políticos y funcionarios electorales.
Asimismo, están trabajando con partidos políticos globales para ofrecer su ayuda e información sobre la IA y su uso para generar contenido político. Asimismo, también brindan asistencia en seguridad contra ciberataques estatales con el Equipo de Éxito de Campaña.
