Google prohibirá las aplicaciones que crucen la línea

Google acaba de anunciar cambios en las políticas de Google Play: se van a poner mucho más serios con las apps que permiten crear contenidos mediante inteligencia artificial. El objetivo es evitar un mal uso de las capacidades de estas apps, especialmente aquellas que abren la puerta a los deepfakes, tanto a nivel de imagen como de audio.

La empresa advierte a los desarrolladores: deberán evitar generar contenido restringido, además de permitir a los usuarios de alguna manera para que puedan informar el contenido ofensivo que encuentran.

Esta normativa se aplica a las aplicaciones de chatbot con IA que generan interacciones texto a texto, aplicaciones de texto a imagen, voz a imagen, imagen a imagen, creación de imágenes, creación de grabaciones de voz por IA… en definitiva, todas aquellas aplicaciones que tienen cualidades de IA generativa.

Aquellas aplicaciones que simplemente alojen contenido generado por IA pero no sean capaces de generarlo, así como aquellas aplicaciones que solo se centren en resumir contenido (no generado por IA), no estarán sujetas a estas condiciones.

Google también quiso dejar claro qué aspectos no tendrán cabida dentro de las aplicaciones capaces de generar contenidos:

• Grabaciones de voz o vídeo de personas reales que faciliten las estafas.
• Contenido generado para fomentar comportamientos dañinos (por ejemplo, actividades peligrosas, autolesiones).
• Contenido relacionado con las elecciones que sea demostrablemente engañoso o falso.
• Contenido generado para facilitar el acoso y el acoso.
• Aplicaciones de IA generativa destinadas principalmente a ser sexualmente gratificantes.
• Documentación oficial generada por IA que permite comportamientos deshonestos. Creación de código malicioso.

Aunque puedan parecer reglas obvias, dentro de la jungla que es la Play Store un poco de orden extra nunca viene mal. Las apps tendrán que cumplir con la normativa de Play Store y cuidar lo que son capaces de generar, así como la obligación de permitir a los usuarios denunciar contenidos inapropiados.

Imagen | Xataka

En Xataka | Cómo eliminar tus datos y cuentas de usuario de tus apps de Android desde Google Play con su nueva sección