Inteligencia artificial: Guía para seres pensantes. Por Melanie Mitchell. Traducción de María Luisa Rodríguez Tapia. Captain Swing Books (3 de abril de 2024). 418 páginas.
A principios de los años 80, tras licenciarse en matemáticas, la autora daba clases de matemáticas cuando Gödel, Escher y Bach se cruzaron en su camino. El famoso libro de Douglas R. Hofstadter, no un trío de comedia.
Leerlo la convenció de que no sólo quería ser investigadora de Inteligencia Artificial, sino que quería trabajar con Douglas Hofstadter. Lo que ella a priori era algo complicado porque no tenía formación, ni en IA sino ni siquiera en programación. Pero con un poco de persuasión y mucho convencimiento terminó trabajando con Hofstadter mientras obtenía su doctorado en informática. Y desde entonces el autor ha dedicado su carrera al campo de la IA.
Pero después de una reunión en Google en 2014 con las personas que lideraban los esfuerzos de IA de la compañía en la que también participó Hofstadter ella salio muy sorprendida. Desde su punto de vista, la IA ha avanzado mucho en algunas áreas específicas, pero está convencida de que aún no está completo. ni remotamente cerca de lograr la inteligencia general (AGI por sus siglas en inglés) de humanos, y que no lograría no en un sigloy mucho menos en treinta años o incluso menos como predijeron algunas de las personas presentes en la reunión.
Así que acabó escribiendo este libro como un intento de comprender la verdadera situación de la inteligencia artificial. En sus propias palabras “qué pueden hacer las computadoras ahora y qué podemos esperar de ellas en las próximas décadas.»
No es un libro sobre la historia de la IA pero comienza con una parte dedicada a explicar cómo hoy en día, tras probar diversos enfoques, el campo de la inteligencia artificial se centra principalmente en el aprendizaje profundoya que es el que mejores resultados ha dado en los últimos años.
Aunque también habla de singularidad; del prueba de Turing y cuántas de las personas que se dedican a la IA realmente la odian; y cuestiones más filosóficas como las que planteó el propio Turing cuando se preguntó si una máquina podría pensar, como por ejemplo Si habría alguna diferencia entre pensar y fingir pensar.
Porque claro, uno de los grandes problemas –quizás el mayor- del campo es precisamente definir qué consideramos inteligencia. Seguido de cerca por el hecho de que no sabemos de dónde viene nuestra inteligencia, sea cual sea. Bueno, tenemos bastante claro que proviene de algún proceso que surge dentro de nuestra cabeza, pero no sabemos cómo. Entonces, cómo empezar a emularlo o crearlo.
Luego dedica las sucesivas secciones del libro a ciertos capacidades cruciales que considera que subyacen a la inteligencia humana y la diferencian de la de otras especies como percepciónél idiomael Toma de decisionesél razonamiento de sentido común y el aprendiendo.
En ellos habla de la últimos avances en IA en ese ámbito concreto -muchos de ellos sorprendentes y casi inimaginables hace unos años-, aunque explicados de forma muy didáctica para que cualquiera pueda entenderlos. Y luego los compara con lo que sabemos sobre cómo funcionan las personas en esos mismos campos.
Sostiene que es precisamente en estas diferencias donde muchas de las debilidades de la IA y lo que debería hacernos dudar de que en el corto plazo no sólo surgirá un AGI, sino que también debería hacernos pensar muy bien qué les dejamos hacer y hasta qué punto podemos delegarles.
Cuestiones como que no sabemos exactamente lo que aprenden esas IA; que no podemos estar completamente claros hasta donde “saben” y cuando se van a encontrar con una situación que les confunda –con todas las consecuencias de ello si, por ejemplo, están conduciendo un coche; o si podemos suponer que sus decisiones serán ética –¿según la ética de quién?– o moralidad –nuevamente, ¿según la moral de quién?–.
Aunque todo ello sin dudar de los beneficios del uso de la IA, que en realidad está mucho más implicada en nuestras vidas de lo que pensamos.
Lo que la lleva a lo que ella llama El gran dilema de la IA.:
¿Deberíamos aceptar las capacidades de los sistemas de IA, que pueden mejorar e incluso ayudar a salvar nuestras vidas, y permitir que se empleen cada vez más? ¿O deberíamos ser más cautelosos, dados los errores impredecibles, la susceptibilidad al sesgo, la vulnerabilidad a los hackeos y la falta de transparencia en la toma de decisiones actual de la IA?
El libro finaliza con un capítulo dedicado a algunos de los preguntas más comunes sobre la inteligencia artificial y las respuestas y especulaciones que el autor puede dar, en un homenaje a Gödel, Escher, Bach, que incluía un apartado similar.
Aunque Captain Swing lo acaba de publicar en español, en realidad se trata de un libro publicado en 2019. Terminé de leerlo la misma semana que OpenAI presentó ChatGPT4o y pensé que quizás los avances de este LLM podrían dejar parte del libro desactualizado… Pero no. O no demasiado. Por mucho que ChatGPT4o a veces nos sorprenda con sus respuestas, todavía se topa con cosas con las que nadie se metería.
Aun así, sé que Melanie Mitchell está trabajando en actualizar el libro, aunque no sé si será en forma de nueva edición o en forma de contenido que publicará en su blog. Pero mientras tanto puedes leer esta entrevista sobre el libro en la que también habla de algunas de las cosas que han cambiado desde su publicación.
En cualquier caso, un libro absolutamente recomendado para cualquier ser pensante que quiera saber más sobre inteligencia artificial y de si mismolo cual no es poca cosa.
_____
El enlace a Amazon tiene nuestro código de asociado, por lo que si compras el libro u otra cosa después de seguirlo podemos ganar algo en forma de comisión. Pero si lo compras en la librería de tu barrio te quedará genial.
