Google amplió su prohibición de anuncios con contenido sexual explícito para incluir también aquellos servicios que facilitan la creación de desnudos generados por inteligencia artificial. Una postura más estricta que entrará en vigor a partir del 30 de mayo, con la que el gigante tecnológico estadounidense busca mantener un entorno digital seguro y respetuoso.
Además, la decisión surge en respuesta a la creciente preocupación por la pornografía deepfake no consensuada, un problema que ha experimentado un aumento alarmante en los últimos años. Recordemos que este tipo de contenidos utiliza IA para crear o modificar imágenes sexualmente explícitas de personas sin su permisocomo ha ocurrido con estrellas de la talla de Taylor Swift.
En 2023, Google eliminó más de 1.800 millones de anuncios por violar sus políticas de contenido sexual, según el informe anual de seguridad publicitaria de la empresa. Un hecho que pone de relieve la magnitud del reto al que se enfrenta esta empresa en su lucha contra los contenidos inapropiados y la importancia de actualizar sus políticas.
La empresa utilizará una combinación de revisiones humanas y sistemas automatizados para hacer cumplir esta política, destacando su compromiso con la seguridad en línea y la protección de los usuarios de contenidos dañinos.
Es importante aclarar que esta es una actualización de la política dentro de Google Ads y excluirá específicamente la promoción de contenidos sintéticos que haya sido modificado o creado para incluir desnudez o ser de naturaleza sexual.
Según el portavoz de Google, Michael Aciman, el objetivo es “prohibir explícitamente anuncios de servicios que ofrecen crear pornografía deepfake o contenido de desnudez sintética”.
Asimismo, la violación de estas nuevas normas se consideró una infracción grave. “Nos tomamos muy en serio las violaciones de esta política y las consideramos atroces.“, advirtieron desde la empresa donde hay una postura de tolerancia cero hacia los infractores.
La implementación de esta norma también pone de relieve cómo algunas aplicaciones que facilitan la creación de pornografía deepfake Anteriormente habían logrado evadir las restricciones de Google.. Por ejemplo, aplicaciones de intercambio de caras que, aunque no fueron promocionadas como sexualmente explícitas en la tienda Google Play, sí lo fueron en sitios web pornográficos.
Este vacío en la política publicitaria había permitido que proliferaran este tipo de aplicaciones, que incluso había generado un vacío jurídico y moral que Google ahora intenta cerrar.
El problema del porno deepfake no consensuado no limitado a la explotación digital de adultos; También ha afectado a menores. Dos estudiantes de secundaria en Florida fueron arrestados en diciembre pasado por supuestamente crear fotografías de compañeros de clase desnudos generadas por IA.
Además, un hombre de Pittsburgh de 57 años Recientemente fue sentenciado a más de 14 años de prisión. por posesión de material de abuso sexual infantil generado con inteligencia artificial.
Dada la gravedad de esta cuestión, el Congreso de los Estados Unidos está considerando medidas legislativas. El mes pasado, tanto la Cámara como el Senado introdujeron la Ley DEFIANCE, que establecería un proceso a través del cual las víctimas de “falsificaciones digitales” podrían demandar a quienes hacen o distribuyen deepfakes no consensuados de ellos.
Este esfuerzo legislativo, junto con la iniciativa de Google, demuestra un reconocimiento y una acción cada vez mayores. contra los peligros que plantea la tecnología deepfake cuando se usa de manera inapropiada.
Además, refleja una creciente preocupación por el impacto ético y social de las tecnologías de inteligencia artificial, especialmente en lo que respecta a la creación y distribución de contenido falso o engañosas que puedan afectar la dignidad de las personas.
