Las empresas líderes en Inteligencia artificial (IA) que incluye AbiertoAI, microsoft, Google y Metaentre otros, informaron que se han comprometido de manera conjunta a evitar que sus herramientas de inteligencia artificial se utilicen para la explotación de menores y para producir material de abuso sexual infantil. La iniciativa ha sido liderada por el grupo de seguridad infantil Thorn y la organización All Tech Is Human, dedicada al uso responsable de la tecnología.
El objetivo de la iniciativa es prevenir la creación de material sexualmente explícito que involucre a menores y eliminarlo de las plataformas de redes sociales y motores de búsqueda. Solo en Estados Unidos se denunciaron más de 104 millones de archivos de material sospechoso de abuso sexual infantil en 2023, afirma Thorn. A falta de acción colectiva, La IA generativa empeorará este problema y abrumará a los organismos encargados de hacer cumplir la ley que ya están luchando por identificar a las víctimas genuinas.
Thorn y All Tech Is Human publicaron un nuevo documento titulado “Seguridad por diseño para la IA generativa: prevención del abuso sexual infantil”que describe estrategias y establece recomendaciones para que las empresas que crean herramientas de inteligencia artificial, motores de búsqueda, plataformas de redes sociales, empresas de alojamiento y desarrolladores tomen medidas para evitar que la inteligencia artificial generativa se utilice para dañar a menores.
Una de las recomendaciones, por ejemplo, pide a las empresas que elijan cuidadosamente los conjuntos de datos utilizados para entrenar los modelos de IA y eviten aquellos que solo contengan casos de material de abuso sexual infantil, pero también contenido sexual para adultos, debido a la propensión de la IA generativa a combinar ambos conceptos. Thorn también pide a las plataformas de redes sociales y a los motores de búsqueda que eliminar enlaces a sitios web y aplicaciones que permiten ver imágenes “desnudas” de menores, creando así nuevo material de abuso sexual infantil en línea generado por IA.
Por supuesto, esta noticia fue tendencia en los foros de comentarios en Japón, ya que las ilustraciones de loli son extremadamente populares dentro del contenido generado por IA (incluidas también las ilustraciones hentai), lo que atrae una variedad de comentarios como:
- «Aunque no está generado por una IA, deberían prohibir este tipo de ilustraciones desde el principio.».
- «No me importa mientras los shota estén protegidos.».
- «¿Y dónde están las víctimas de carne y hueso? No entiendo».
- «¿Y cuándo vamos a regular a los gordos que aparecen en el hentai?».
- «¿Qué sentido tiene ampliar los límites de la IA si van a empezar a regularla?».
- «Bueno, estamos hablando de Estados Unidos. Allí es ilegal incluso hacer ilustraciones de anime de cualquier tipo.».
- «Realmente no lo entiendo, antes de empezar a regular el mundo 2D, ¿no deberías preocuparte primero por los niños reales?».
- «¿Y qué pasa con la libertad de expresión? Casi puedo oír los pasos de las botas de combate.».
- «¿Y cómo decides entre cuáles son ilustraciones de loli eróticas y cuáles son ilustraciones de loli normales?».
- «Las imágenes normales de loli también deberían prohibirse».
- «Al parecer hay algún individuo traumatizado que cree que este tipo de ilustraciones provocan víctimas reales cuando realmente no las hay.».
Fuente: ¡Yaraón!
