Un día, Joanne Mc Neill Viajó a Phoenix, capital de Arizona y una de las ciudades donde está instalada Waymo, empresa de transporte. supuestos vehículos autónomos en el que los usuarios pueden llamar a uno de estos coches de la misma manera que lo harían con un Úber. Sin embargo, el servicio no funcionaba correctamente. “Durante esa semana llovió”, dice McNeil vía videoconferencia desde Los Ángeles. “E incluso si lloviera ligeramente, esos coches se vuelven enormemente inseguros en esas circunstancias, porque tienen problemas, por ejemplo, para predecir la profundidad de un charco”.
Así que cada vez que reservaba un Waymo siempre había un conductor en el asiento delantero que lo conducía como un vehículo normal, sin ningún tipo de automatización. “Le pregunté a uno de ellos y me dijo que normalmente están en una especie de ‘call center’ donde interactúan de forma remota, presionando botones cuando hay un diagnóstico de falla. Esto desafía la idea de que se trata de una tecnología fluida: de hecho, es increíblemente complicada y Se necesitan muchos seres humanos para hacer que un coche autónomo conduzca. Ese es un ejemplo de la clase baja de la Inteligencia Artificialal igual que los moderadores de contenido en Facebook o los que hacen scripts para chatbots.
McNeil ha hablado de ello en su ensayo ‘Lurking’ (subtitulado ‘Cómo una persona se convierte en usuario’) y su novela ‘Wrong way’, ambientada en una de estas empresas de vehículos autónomos y que fue nombrado uno de los mejores libros 2023 por ‘ Revista neoyorquina. “El trabajo gira en torno a la ‘economía colaborativa’ y trabajos de bajo nivel creado por ella que involucran una actividad humana disfrazada de lo que los clientes creen que es IA“, detalla el autor.
Sobre esta disfunción hablará este viernes en Soñar +Dla plataforma de las últimas tendencias en cultura digital dentro del festival de música avanzada, que se celebra durante el fin de semana y contará con las actuaciones de Aire, Kaytranada, Jessie Ware, Vince Staples, Laurent Garnier cualquiera Richie Hawtinentre otros.
McNeil dice que comenzó a escribir ‘Wrong Way’ en 2018 y que, “en ese momento, la mayoría de las predicciones sobre los coches autónomos fueron muy optimistas“, aunque todavía no estaban en las calles. “La mía es una novela de ciencia ficción en la que los trabajadores son los que conducen la mayor parte del tiempo. Y la verdad es que no pensé que ambas cosas, libro y realidad, se materializarían al mismo tiempo”.
Para el escritor, “todas estas empresas presentan una farsa“La estrategia para ofrecer una tecnología que no funciona como proclaman es conseguir que la sociedad cambie para que un día, “por la magia de un deseo optimista”, finalmente funcione. “Pero las cosas están cambiando y, aun así, este proletariado de la IA sigue existiendo. Sus predicciones no son realistas; “Todo es un fraude”, afirma basándose en su propia experiencia: “Trabajé en un call center hace unos 15 años. Mi trabajo se reducía a leer guiones en una computadora cuando alguien llamaba. Y si ese alguien dijera eso, yo respondería esta otra cosa. eso estaba escrito”. Intentó desviarse del guión, pero era un trabajo que, según sus palabras, “aplastaba el alma: no podía haber nada humano con las personas”, incluso si estaba hablando por teléfono con una persona. “Algo realmente alienante”. .
Otro ejemplo: aquella tienda de alimentación que creó Amazon, donde entrabas y tomabas lo que querías. Al final, recuerda McNeil, solo había mucha gente vigilando el negocio. “También existe en estos trabajos un componente de vigilancia que los relaciona con el piloto de drones.“Tu capacidad de observación es muy clara, pero al mismo tiempo la experiencia de ver tan de cerca a alguien que no tiene idea de que existes (o que tiene la solución a sus problemas en la mano) es muy inquietante”.
Para esto nuevos trabajos de IA, continúa su razonamiento, lo único que se necesita es un salario por hora razonable. El problema es que, si nos fijamos en lo que les ha pasado a los conductores de Uber o a los compradores de Instacart (un servicio de entrega de comestibles), cuando surgen estos trabajos están relativamente bien remunerados. Mucha gente empieza a ganar mucho, es un trabajo flexible y suena bien. “Pero poco a poco, a medida que pasa el tiempo, empieza a ser cada vez menos rentable”. y conseguir el mismo dinero eso al principio se vuelve complicado”, afirma McNeil. “Es un arma de doble filo, porque esa flexibilidad trae consigo la dificultad de empezar de nuevo y encontrar otro trabajo cuando ya llevas un tiempo allí, dado que las empresas quieren construir este tipo de hábitos en las ciudades y que utilizar estos servicios se convierte en un arma de doble filo. algo habitual para los clientes”, como en el caso de la comida a domicilio.
De ahí el deseo de ver una respuesta sindical mayor y organizada a la IA. Como ocurrió con la huelga de la WGA (Writers Guild of America), que Dejó de filmar en protesta por la amenaza de la robotización de la escritura..
Pero esta no es la única explotación que supone la Inteligencia Artificial. “La mercantilización de sus datos personales, los de su familia y sus amigos, es deshumanizante”, advierte McNeil. “Digamos que escribiste una serie de tweets después de la muerte de tu madre.. Un hilo de varios cientos de palabras que apareció hace diez años. Fue un momento realmente emocionante para ti y la gente respondió con una compasión increíble: hubo una conexión real a través de Twitter. Pero ahora esos tweets están en una herramienta de capacitación ChatGPT. E imagina que alguien le escribe a ese asistente virtual preguntándole qué puede decirle a alguien que está de luto por la pérdida de su madre. Y lo que se genera es una variación de esas palabras que alguien te dijo que son increíblemente personales. “Es enormemente explotador y desensibilizante”.
“A todas estas empresas les falta empatía y alma”, afirma el autor. “Surgen de personas que no saben conectarse. Podemos ver esto en La forma de ver a los humanos de Mark Zuckerberg, que ha llevado a una cultura mucho más antisocial. Porque necesita matemáticas para entender cuánto valen las personas. No podría lograrlo por sí mismo, sin los algoritmos. “Así que nos vemos obligados a caer en este grotesco lío de conexiones humanas, sólo porque él tenía el dinero y los inversores para gastar en este extraño producto que nunca debería haber existido”.
La gente comparte sus emociones en las redes sociales, pero también pueden ser un espacio para expresar ideas y sentimientos profundos, afirma el autor de ‘Wrong way’. “Lo que sucede es que ellos son dueños de la infraestructura, por lo que necesitamos que los derechos sobre la información que ponemos en esa infraestructura sean muy claros, para que no puedan eludir sus obligaciones”. A McNeil le gustaría ver cambios a nivel de protocolo, en lugar de depender del estándar de exclusión robots.txt, que impone al usuario toda la responsabilidad sobre si su propio material es desechado o no..
McNeil también hace referencia a un tweet reciente de Sam Altman, director ejecutivo de OpenAI y promotor de ChatGPT, que decía solo “ella”, en referencia a la película de Spike Jonze de 2013 en la que un hombre (interpretado por Joaquin Phoenix) se enamoraba de la voz de su asistente virtual (Scarlett Johansson). La declaración de Altman conecta con un meme popular con el siguiente texto: “Autor de ciencia ficción: ‘En mi libro inventé Nexus Torment como una fábula aleccionadora’. Empresa tecnológica: ‘Por fin hemos creado Nexus Torment, del clásico de ciencia ficción ‘No crees en Nexus Torment’.
“Sam Altman no tiene las habilidades más básicas para el análisis crítico”, denuncia McNeil. “Si ves la película ‘Ella’, no hay nada sutil en mostrar lo peligrosa que puede ser esa tecnología”.. Pero si eres alguien a favor de la IA y te encanta la idea de reemplazar a los seres humanos con esta humanidad artificial, entonces no ves un peligro, ves un objetivo”.
“La gente de Silicon Valley no tiene ideas originales”, redobla la crítica la escritora. “Entonces se acercan a la literatura para echar un vistazo, buscando cosas que puedan robar, como alguien que mira un mapa de carreteras o un menú. El artista no, sólo quieren explotarlo. Se preguntan: ‘¿Qué estoy inventando hoy?’ “Y simplemente pasan las páginas, sin importarles si lo que encuentran es bueno o malo, porque la suya no es una respuesta a la cultura”. Parece fácil, dice, con Elon Musk: “No es un lector ni un pensador realmente profundo; es simplemente alguien cuyos objetivos son la creación y acumulación de riqueza para sí mismo. Entonces deambula por estos volúmenes, Buscando algo que suene bien y que pueda hacerte muy poderoso. El libro en sí no importa lo más mínimo”..
¿Descorazonador? Bueno, todavía no hemos llegado a la peor parte. “Es extraordinariamente terrible para el medio ambiente”, confirma McNeil. Si vemos Internet sólo como la World Wide Web y otras aplicaciones, explica, se puede decir que cumple una función comunicativa específica para la sociedad: hoy utilizamos el correo electrónico y los sitios web como comunicación global central. “Sin embargo, La IA no ha demostrado ser necesaria en ningún campo. Así que hoy está destruyendo el medio ambiente sin ofrecer nada a cambio.. No hay compensación, todavía, y sólo está produciendo cosas negativas: llena de basura la web y las redes sociales, contaminándolas, y los beneficios no son que estén por verse, es que no parece que vayan a aparecer. .” De ahí que sus trabajos, en libros y conferencias, tengan un objetivo: “Mi sueño es que logremos una Internet más verde”.
