Semanas antes del lanzamiento de sus nuevas memorias, la periodista tecnológica recuerda Kara Swishersu esposa notó algo extraño cuando buscaba el libro en Amazonas. “Me dijo: ‘¿Qué es esta foto tuya? Es extraño’”, dijo. Swisher.
Swisher Miró la pantalla y vio un libro que decía ser una nueva biografía suya, con una imagen en la portada que inmediatamente identificó como una falso generado por inteligencia artificial. Aunque el libro prometía la historia de la vida de SwisherEl autor era alguien de quien nunca había oído hablar.
Una mirada más cercana sugirió que el libro en sí podría haber sido generado en gran parte o en su totalidad por AIsustituir detalles reales o anécdotas por descripciones genéricas de Swisher. Swisher Se sintió irritada, pero no le importó.
Pero cuando volvió a mirar Amazonas esta semana vi eso Las biografías clonadas de ella habían proliferado.como informó por primera vez el blog de tecnología 404 Medio. Cada uno tenía un título, un autor y una imagen falsa de ella en la portada ligeramente diferentes. “Había docenas y docenas“, cuenta Swisher. “Seguí pensando: ‘¿Qué está pasando aquí y por qué no lo detienen?’”
Swisher es sólo el último autor en descubrir que vender un libro nuevo en Amazonas Hoy en día esto a menudo significa competir por la atención de los lectores con imitaciones que muestran signos de haber sido generadas en gran parte o en su totalidad por herramientas de inteligencia artificial. Casi 10 meses después El Correo de Washington Al informar sobre uno de los primeros ejemplos conocidos de estos impostores, los autores dicen que el problema parece estar empeorando.
“Cada vez es más fácil generar libros con IAy vemos cada vez más”, dice María Rasenbergerdirector ejecutivo de Gremio de Autores, una asociación de autores. “Creo que vamos a enfrentar una explosión de libros generados con AI antes de que nos acerquemos a resolver el problema”.
La lista de autores afectados es larga y las estafas han proliferado en variedad. Algunos afirman falsamente haber sido escritos por un autor real, como fue el caso de cinco libros que el analista de la industria editorial Jane Friedman encontrado en Amazonas a su nombre el pasado mes de agosto. Algunos comparten el mismo título que un libro real, como el del escritor técnico. Chris Cowell señaló a El Correo de Washington el pasado mayo.
Algunos utilizan el mismo apellido que un autor real, pero cambian el nombre, como le ocurrió recientemente al escritor de jazz. Ted Gioia. Algunos se presentan como libros “complementarios” o “libros de ejercicios” que son auténticos best sellers, como descubrió el presentador de “Today”. Sabana Guthrie cuando publicó su último libro.
Otras son obras de ficción, como las novelas evidentemente generadas por IA que el verano pasado inundaron la lista de libros electrónicos más vendidos de Amazon en la categoría “Romance contemporáneo para adolescentes y adultos jóvenes”.
Aunque es difícil probar definitivamente que un libro determinado ha sido generado por AIlas imitaciones tienden a autopublicarse a través del servicio Publicación directa de Kindle de Amazonas. A menudo llevan nombres de autores desconocidos y lucen portadas que se asemejan a los resultados de herramientas de imágenes por computadora. AI y aparecer en Amazonas poco antes del lanzamiento del libro auténtico que están tratando de aprovechar. (Jeff Bezosfundador de Amazonases el dueño de El Washington Post).
Amazonas dice que se está tomando el problema en serio, ya ha tomado medidas para abordarlo y está trabajando en medidas adicionales. La empresa no prohíbe a los usuarios vender libros generados por herramientas de AI en tu plataforma. Pero sí prohíbe contenidos que infrinjan la propiedad intelectual, así como libros cuyas descripciones sean engañosas o cuyo contenido sea “típicamente decepcionante” para clientes.
“Nuestro objetivo es ofrecer la mejor experiencia posible de compra, lectura y publicación.“él declaró Lindsay Hamiltonportavoz de Amazonas.
Amazonas ha tratado de frenar la ola de autoedición limitándola a tres libros por día y el año pasado comenzó a exigir a los autores de libros electrónicos que revelen su identidad. Amazonas las obras generadas por AI, aunque la empresa no exige a los clientes que lo hagan. De acuerdo a hamiltonLa última medida de la empresa para limitar el spam ha sido limitar la publicación de “resúmenes” y “libros de trabajo” que pretenden acompañar a libros reales escritos por personas.
Cuando la prensa se hace eco de imitaciones de inteligencia artificial –algo que cada vez es más frecuente– Amazonas Por lo general, elimina los libros en cuestión de su sitio web y, a veces, también otros. hamilton Dijo que la empresa también tiene “un conjunto sólido de métodos que nos ayudan a detectar contenido de forma proactiva que violan nuestras pautas, ya sea generadas por AI o no”, aunque no dijo cuáles son esos métodos.
Algunos autores se preguntaron por qué empresa de tecnología tan poderoso que parece tener muchas dificultades para controlar el problema.
El miércoles, una búsqueda de “libro de Kara Swisher” en Amazonas El primer resultado fueron las memorias de Swisher, “Quemar el libro”. Pero los siguientes 16 resultados fueron libros sobre Swisher publicados por otros autores en los últimos tres meses.
La mayoría de ellos compartían algunos de los Características comunes de los imitadores de IA.: autoeditado, a menudo de corta duración, sin No hay señales de información o visión original. en su descripción o en las páginas de muestra que Amazonas Hecho disponible.
El segundo libro de la lista, escrito por un tal Cheryl D. Stackhouse y Prensa de la Hermandadse tituló “Libro de Kara Swisher”. El texto de muestra alternaba entre describir Swisher en tercera persona y escribiendo con su voz, e incluía citas sin sentido como: “Si no tienes confianza, es imposible que tengas confianza”..
Swisher dijo que cuando vio la proliferación de imitaciones, envió un correo electrónico al director ejecutivo de amazon, Andy Jassy – cuya empresa ha cubierto muchas veces a lo largo de los años – a quejarse. El jueves, muchos de ellos habían sido retirados, incluido el de Casa de pila. Swisher Agradeció la respuesta, pero señaló que la mayoría de los autores no tienen ese tipo de acceso a los altos ejecutivos.
“Lo que yo pensaba era: ‘Está bien, lo hicieron por mí y están cuidando mi libro, pero ¿por qué no lo hacen por todos?’. (La esposa de Swisher, Amanda Katzes editor de opinión en El Correo de Washington).
No está claro hasta qué punto Amazonas investiga a los usuarios detrás de los libros que elimina. Mientras que el libro de Casa de pila acerca de Swisher desapareció el jueves, una búsqueda del nombre de Casa de pila en el sitio de Amazonas reveló docenas de otros libros aún a la venta. La mayoría eran biografías de personajes famosos y todas habían sido publicadas en los últimos meses.
Los intentos de un periodista correo Los intentos de localizar y contactar a cualquier autor con ese nombre no tuvieron éxito. Amazonas se negó a proporcionar información sobre Casa de pilaen alusión a la privacidad de los datos de sus clientes.
A menudo, libros que parecen ser imitaciones de AI Tienen pocas opiniones de clientes, si es que tienen alguna, lo que indica que no han engañado a un gran número de lectores. Pero el autor de uno de los libros de Swisher, Max Thorntambién figura como autor de un libro sobre el asesino convicto Rosa gitana Blanchard que cuenta con 26 reseñas, con una media de 2,2 estrellas.
Una reseña lo llama “ni siquiera un libro” y se lamenta: “¡Quiero que me devuelvan mis $ 12!” Otro dice: “¡Esto es un robo!” Otras reseñas se titulan: “Cuidado”, “Pérdida de dinero”, “Decepcionante” y “Nada bueno”. Ese libro también estaba todavía disponible en Amazonas hasta el jueves. Intentos de localizar la presencia en Internet de un autor llamado Max Thorn No tuvieron éxito.
hamiltonde Amazonas, dijo que la compañía suspende las cuentas de los editores “cuando los patrones de abuso lo justifican”. Añadió que “el proceso y las directrices de la empresa seguirán evolucionando a medida que veamos cambios en la publicación impulsados por AI para garantizar que mantenemos la mejor experiencia posible tanto para los clientes como para los lectores”.
FriedmanUn analista de la industria editorial que el año pasado vio que se publicaban libros falsos con su nombre, dice que desde entonces ha recibido llamadas y correos electrónicos de otros autores con experiencias similares. Friedman entiende eso Amazonas Probablemente no quieras estos libros en tu sitio web, pero te preguntas por qué. una de las empresas de tecnología más grandes del mundo no ha hecho nada más para impedirlo.
Rasenberger dijo que el Gremio de Autores esta presionando Amazonas para que puedas comenzar a revelar en tu sitio qué libros son generados por AI, y que la empresa se ha mostrado “receptiva”. El sindicato también apoya un proyecto de ley presentado el año pasado en el Congreso para él senador demócrata de hawai, Brian Schatzque obligaría a las empresas AI incluir marcas en el contenido producido por sus herramientas para identificarlas como generadas por AI.
Mientras tanto, siguen apareciendo libros de imitación. El jueves, el periodista Byron Tau fue alertado de la existencia de un libro electrónico sobre Amazonas que pretendía ser una biografía de él cuando un amigo buscaba su nuevo libro. tau“Medios de control”.
El imitador, titulado “BIOGRAFÍA DE BYRON TAU”, tenía sólo 17 páginas y una muestra del texto contenía flagrantes errores fácticos. tau dijo que envió un correo electrónico a la oficina de prensa de Amazonasy el título fue rápidamente retirado.
“Espero que Amazon encuentre una manera de acabar con esta práctica, porque devalúa el trabajo de las personas que pasan años investigando y escribiendo libros.“, dicho tau. “Es sólo una señal de que estos sistemas en los que todos confiamos son muy vulnerables a la gamificación.”.
(c) 2024, El Washington Post
