Si alguna vez le hizo una pregunta a un chatbot y recibió una respuesta sin sentido, ya sabe que la “inteligencia artificial” no siempre es muy inteligente.
Y a veces tampoco es tan artificial. Esa es una de las lecciones de la reciente decisión de Amazon de reducir su tan publicitada tecnología de compras “Just Walk Out”, un software aparentemente de ciencia ficción que en realidad funcionó, en gran parte, gracias al trabajo humano detrás de escena. .
Este fenómeno recibe el sobrenombre de “fauxtomación” porque “oculta el trabajo humano y también infla falsamente el valor de la solución ‘automatizada’”, dice Irina Raicu, directora del programa de Ética de Internet del Centro Markkula de Ética Aplicada de la Universidad de Santa Clara.
Sobre el apoyo al periodismo científico
Si está disfrutando este artículo, considere apoyar nuestro periodismo galardonado al suscribiéndose. Al comprar una suscripción, ayudas a garantizar el futuro de historias impactantes sobre los descubrimientos y las ideas que dan forma a nuestro mundo actual.
Take Just Walk Out: promete una experiencia minorista perfecta en la que los clientes de los supermercados Amazon Fresh o de tiendas de terceros pueden tomar artículos del estante, recibir facturas automáticamente e irse sin necesidad de pagar. Pero en un momento, Amazon tuvo más de 1.000 trabajadores en India que entrenaron el modelo Just Walk Out AI (y revisaron manualmente algunas de sus ventas), según un artículo publicado el año pasado en Information, un sitio web de negocios de tecnología.
Una fuente anónima que había trabajado en la tecnología Just Walk Out le dijo al medio que se necesitaban hasta 700 revisiones humanas por cada 1000 transacciones de clientes. Amazon ha cuestionado la caracterización de su proceso por parte de Information. Un representante de la empresa dijo Científico americano que si bien Amazon “no puede revelar cifras”, Just Walk Out tiene “muchos menos” trabajadores que anotan datos de compras de los que se han informado. En una publicación de blog del 17 de abril, Dilip Kumar, vicepresidente de aplicaciones de servicios web de Amazon, escribió que “esto no es diferente a cualquier otro sistema de inteligencia artificial que otorga un gran valor a la precisión, donde los revisores humanos son comunes”.
La noticia del retiro de esta tecnología en las tiendas Amazon Fresh de EE. UU. (en favor de carritos de compras que permiten a los clientes escanear los artículos mientras compran) ha desencadenado un renovado enfoque en una verdad incómoda sobre las exageraciones de Silicon Valley. Es posible que las tecnologías anunciadas como automatizadoras para el trabajo aburrido o peligroso aún necesiten que los humanos estén al tanto o, como lo expresó un columnista de Bloomberg, el software de inteligencia artificial “a menudo requiere brazos de niñeras humanas”.
No es un fenómeno nuevo. A lo largo de la historia, astutos inventores y empresarios han tratado de poner la etiqueta de “automatizado” a lo que en realidad era una actividad humana normal. Tomemos como ejemplo al “Turco Mecánico”, un robot vestido con una túnica que el inventor Wolfgang von Kempelen presentó por primera vez a principios de la década de 1770. Von Kempelen les diría a los observadores que la máquina humanoide podía jugar partidas completas de ajedrez, abriendo el autómata para mostrar los mecanismos de relojería internos, como relató Atlas Obscura.
Pero el Turco Mecánico era una farsa. Como muchos observadores contemporáneos empezaron a sospechar, un operador humano se escondía en una cámara debajo del tablero de ajedrez y controlaba sus movimientos a la luz de las velas. Los mecanismos de relojería eran simplemente un escaparate para una audiencia fácilmente impresionable.
Ueber den Schachspieler des Herrn von Kempelen und dessen Nachbildung por Joseph Racknitz, 1789.
Colección Eraza/Foto de stock Alamy
Quizás sea apropiado que Amazon ahora opere una plataforma con el mismo nombre que permite a las empresas realizar tareas en línea fragmentadas que requieren juicio humano, como etiquetar los datos de entrenamiento de los que aprenden los sistemas modernos de IA. Después de todo, las charadas al estilo del Mechanical Turk original (sistemas nominalmente automatizados que en realidad dependen de la ayuda humana, o lo que Jeff Bezos alguna vez denominó “inteligencia artificial artificial”) son características comunes de la Web moderna, donde un aura de sofisticación tecnológica puede A veces puede ser más importante que la propia sofisticación tecnológica.
“La idea de darle vida a algo inanimado es un anhelo antiguo y aparentemente muy humano”, dice David Gunkel, profesor de estudios de medios en la Universidad del Norte de Illinois y autor de La cuestión de las máquinas: perspectivas críticas sobre la IA, los robots y la ética. Señalando variedades como la novela de Mary Shelley de 1818 frankenstein y la película de 2014 ex machina, Y añade: “Es en estas historias y escenarios donde desempeñamos el papel de Dios al crear nueva vida a partir de materia inanimada. Y parece que el deseo de hacer realidad este resultado es tan persistente e ineludible [that] “Estamos dispuestos a engañarnos y engañarnos a nosotros mismos para hacerlo realidad”.
Incluso antes de que productos como ChatGPT y DALL-E iniciaran el actual auge de la inteligencia artificial, esta dinámica se desarrolló con productos de IA menos ambiciosos. Consideremos a X.ai, una empresa que alguna vez promocionó un asistente personal automatizado que podía programar reuniones y enviar correos electrónicos. Resultó que la razón por la que el software de X.ai parecía tan realista era que estaba literalmente vivo, como informó Bloomberg en 2016: detrás de escena, entrenadores humanos revisaban casi todos los correos electrónicos entrantes. Otros programas de conserjería y asistente personal de esa época dependían de manera similar de los seres humanos, y el informe de Bloomberg señaló que la atracción de capital de riesgo puede haber incentivado a las empresas emergentes a encuadrar los flujos de trabajo ordinarios como de vanguardia.
Es una dinámica que se desarrolla en nuestra vida cada vez más en línea. Ese robot de reparto de comida que lleva una ensalada hasta la puerta de tu casa podría en realidad ser un joven entusiasta de los videojuegos que lo pilotea desde lejos. Se podría pensar que un algoritmo de redes sociales está separando la pornografía de los memes de gatos, cuando en realidad los moderadores humanos en una oficina en algún lugar están tomando las decisiones más difíciles.
“No se trata sólo de una cuestión de atractivo de marketing”, afirma Raicu. “También es un reflejo del impulso actual para llevar cosas al mercado antes de que realmente funcionen según lo previsto o anunciado. Algunas empresas parecen ver a los ‘humanos dentro de la máquina’ como un paso intermedio mientras mejora la solución de automatización”.
En los últimos meses, el revuelo en torno a la IA generativa ha creado nuevas e interesantes oportunidades para que las personas enmascaren el trabajo humano cotidiano bajo un brillante barniz de imitación, favorable a las relaciones públicas. A principios de este año, por ejemplo, Internet estalló en furor por un especial póstumo de George Carlin que supuestamente había simulado el sentido del humor del difunto cómico con un programa de aprendizaje automático entrenado en su obra. Pero más tarde, bajo la amenaza de una demanda por parte del patrimonio de Carlin, uno de los creadores del vídeo admitió a través de un portavoz que los chistes supuestamente generados por IA en realidad habían sido escritos por una persona común y corriente.
Fue el último de una tradición centenaria que continúa encantando y atrapando a consumidores desprevenidos: humanos que fingen ser máquinas que fingen ser humanos una vez más.
