¿Qué es la ley de las consecuencias no deseadas y qué tan poderosa es (para bien y para mal)?

Cuando los pioneros de las redes sociales las crearon, lo hicieron con la esperanza de abrir espacios para que personas y comunidades se conectaran..

Pronto se dieron cuenta de que no todos los intercambios serían amables, pero eso no era tan inesperado, dada la naturaleza humana.

Lo que difícilmente podrían haber predicho es que en cuestión de unos pocos años las redes se convertirían en herramientas sofisticadas para ajustar el curso de la democracia a una tendencia u otra.

O que los dirigentes se escudarían detrás de ellos, alegando que a través de esos medios se comunicaban directamente con los gobernados, negándoles así el derecho a cuestionarlos.

Y es que Toda innovación, en cualquier ámbito, trae consigo consecuencias imprevistas, a veces positivo; otros, negativos y muchas veces sorprendentes.

Es un fenómeno que observadores sociales de diferentes disciplinas han notado desde la antigüedad.

El filósofo Platón, por ejemplo, lo ilustró maravillosamente en el diálogo Fedro.

En él, Sócrates cuenta que cuando el dios egipcio Teut –que había inventado, entre otras cosas, las letras– fue a mostrar al rey Tamus todas sus obras, le pidió que le explicara lo útiles que eran.

“Cuando llegaron a la escritura, Teut dijo: ‘¡Oh rey! Este invento hará más sabios a los egipcios y servirá a su memoria.; He descubierto un remedio contra la dificultad de aprender y retener’”.

El rey respondió que el genio inventor no es el mejor juez, y que, respecto a la escritura, le atribuía “todo lo contrario de sus verdaderos efectos”.

“Sólo producirá el olvido en el alma de quienes lo conozcan, haciéndoles despreciar sus recuerdos; confiarán en escritos externos y no recordarán por sí mismos.

“Lo que descubriste no es una ayuda para la memoria, sino para la reminiscencia; y No das a tus discípulos la verdad, sino sólo la apariencia de la verdad.; Serán oidores de muchas cosas y nada habrán aprendido; Parecerán omniscientes y generalmente no sabrán nada; “Serán una compañía tediosa, con apariencia de sabiduría sin realidad”.

Para Platón, el verdadero conocimiento se alcanzaba a través del diálogo socrático: la búsqueda de respuestas a través del esfuerzo de la reflexión y el razonamiento.

Aunque no esté de acuerdo con su opinión sobre la escritura, la historia muestra cómo incluso las tecnologías más valiosas pueden tener consecuencias imprevistas.

Adam Smith, considerado el padre de la economía moderna, dio el nombre de “la mano invisible” a uno de los más famosos.

El filósofo escocés del siglo XVIII argumentó que cada individuo que busca sólo su propio beneficio “es llevado por una mano invisible a promover un fin que no formaba parte de su intención”, generando beneficios generalizados.

Varios pensadores discutieron lo que hoy se llama “la ley de las consecuencias imprevistas”, pero fue el sociólogo estadounidense Robert K. Merton quien, en 1936, publicó el primer análisis del concepto.

Merton comienza su influyente artículo “Las consecuencias imprevistas de una acción social intencionada” comentando que hasta ese momento no se había hecho ningún análisis científico sistemático del tema.

Supone que tal vez fue porque durante la mayor parte de la historia de la humanidad lo inesperado se había atribuido a “los dioses”, el “destino” o la interferencia divina.

Con la Era de la Razón empezamos a creer que se podía entender la vida.

En su estudio, Merton identificó cinco causas principales de estos resultados inesperados.

La ignorancia es la primera.: Son imprevistos, por lo que, en algunos casos, por mucho que se quisiera, hubiera sido muy difícil adivinar que sucedería lo que pasó.

Quienes desarrollaron la bicicleta moderna en las décadas de 1880 y 1890 no planeaban crear un vehículo de liberación femenina.

No sólo promovió el uso de “ropa racional” sino que tuvo un profundo impacto en los derechos y roles de las mujeres en la sociedad.

“Déjame decirte lo que pienso sobre andar en bicicleta”, dijo la sufragista Susan B. Anthony en una entrevista de 1896.

“Creo que ha hecho más por emancipar a las mujeres que cualquier otra cosa en el mundo. Da a las mujeres una sensación de libertad y autosuficiencia. Les hace sentir independientes (…) y se les va, la imagen de una feminidad libre y sin restricciones”.

De esta manera, innumerables ejemplos demuestran que, escribió Merton, “la limitación más obvia para una anticipación correcta de las consecuencias de una acción la proporciona el estado de conocimiento existente”.

Lo cual, entre otras cosas, llevó en ocasiones a algunos a “apoyar el argumento que dice en efecto: ‘si hubiéramos sabido, lo habríamos sabido’“, añadió.

La segunda causa principal fue el error: A veces el análisis falla o acciones que han tenido éxito en el pasado se repiten en situaciones nuevas, sin repensarlas.

La convincente inmediatez del interés.lo que lleva a descuidar la consideración de las consecuencias a largo plazo ya que la preocupación principal son los efectos inmediatos esperados, es la tercera causa.

El cuarto es “superficialmente similar al factor de inmediatez”, pero significativamente diferente: el Valores básicos.

Estos pueden llevarnos a actuar según creencias fundamentales sin considerar las consecuencias.

Merton citó el caso de la ética protestante y el espíritu del capitalismo para ilustrar este punto.

Las normas morales protestantes de trabajo duro y ascetismo “conducen paradójicamente a su propia decadencia mediante la acumulación de riqueza y posesiones”.

Y por último, una causa que suena esotérica: la profecía autodestructivaen el que no actúas por miedo a consecuencias negativas e imprevistas, o avisas de un problema futuro, y eso lleva a que no suceda.

“Para tomar un ejemplo social concreto”, señaló Merton, “la predicción de (Karl) Marx sobre la progresiva concentración de la riqueza y la creciente miseria de las masas influyó en el proceso mismo predicho.

“Al menos una de las consecuencias de la predicación socialista en el siglo XIX fue la expansión de la organización del trabajo, que (…) ralentizó, si no eliminó, los acontecimientos que Marx había predicho”.

En su libro “La lógica del azar”, el matemático y filósofo John Venn utilizó el colorido término “profecías suicidas”para nombrar esta quinta causa principal de consecuencias imprevistas.

Con el tiempo, otros pensadores han ido sumando otros, como el economista Kenneth Arrow, quien aportó una advertencia: “la mayoría de la gente subestima la incertidumbre del mundo”.

Merton clasificó además 3 tipos de consecuencias imprevistas:

• beneficios inesperadoscomo los muchos casos de descubrimientos científicos fortuitos;
• inconvenientes inesperadosen el que se puede lograr lo deseado, pero acompañado de aspectos negativos;
• efectos perversosque resultan en lo contrario de lo que se pretendía.

Porque estamos en el umbral de una nueva etapa para la humanidad, probablemente una de las más significativas de todas..

El rápido surgimiento de una nueva generación de sistemas de inteligencia artificial que pueden emitir juicios, tomar decisiones y generar ideas es uno de los mayores desafíos de la sociedad.

La inteligencia artificial es un gran salto hacia lo desconocido en diferentes áreas de nuestras vidas, desde la salud hasta la educación, desde el ejército hasta el derecho, desde las artes hasta el transporte.

Cambiará nuestras vidas de maneras que aún no podemos imaginar.

Pero no podemos darnos el lujo de no hacerlo.porque detrás de la apasionante innovación y el entusiasmo por la IA hay preguntas fundamentales que debemos plantearnos a nosotros mismos, a los líderes tecnológicos y a nuestros gobernantes ahora.

“Cuando se trata de IA, hay muchos que la ven como algo mágico, o piensan que habrá una batalla inminente entre humanos y robots, y el tipo de preguntas son como de ciencia ficción: ‘¿se puede confiar en un robot’? “.

“Como científico social, quiero llamar la atención sobre el hecho de que realmente No se trata de si confiamos en un robot sino de si confiamos en las personas detrás de las tecnologías.“.

Son esos emprendedores e innovadores de la IA quienes tienen el poder de dar forma radical a nuestro futuro.

Pero todos somos, en mayor y menor medida, los que hoy debemos participar en la toma de decisiones.

Los sistemas de inteligencia artificial se entrenan con grandes cantidades de información y aprenden a identificar los patrones que contiene para realizar tareas.

Las aplicaciones parecen infinitas y van desde ayudar a los médicos a detectar el cáncer de mama hasta decidir qué mostrarnos en las redes sociales o recomendar qué comprar.

Lo que hemos visto hasta ahora es la punta del iceberg; Sin embargo, en casi cada paso, además de los milagros, los peligros han sido evidentes, así como la dificultad de combatirlos.

Tomemos como ejemplo la IA generativa, una que, como ChatGPT y DALL-E, genera texto o imágenes que parecen creadas por humanos, tiene una legión de seguidores.

Pero entre ellos están creadores de contenido de abuso sexual infantil que multiplican sus ganancias sin que las autoridades puedan hacer mucho al respecto.

¿Una consecuencia imprevista?

Quizás, pero la cuestión es de qué tipo, porque ya sea por error o por necesidad imperiosa de interés, son difíciles de excusar.

Por eso, aunque los recientes avances en IA han sido aclamados como revolucionarios, incluso grandes nombres como Elon Musk han abogado por una pausa en su desarrollo.

Temores similares han llevado a dos de los tres científicos conocidos como los padrinos de la IA por sus investigaciones pioneras, Geoffrey Hinton y Yoshua Bengio, a pronunciarse al respecto.

A Stilgoe, que como investigador de la RAI se centra en cómo debemos configurar el desarrollo de la IA en beneficio de las personas, las comunidades y la sociedad, le preocupa “el interés de quienes desarrollan la tecnología en no anticipar las consecuencias”.

En su búsqueda por monetizar sus creaciones, “la gente de IA desarrolla sus sistemas y los libera al mundo, y luego le corresponde a la sociedad descubrir cuáles son las consecuencias y lidiar con ellas.

“Existe una asimetría enorme porque dejamos a los innovadores libres de responsabilidad.“.

El sociólogo afirma que hay casos en los que la IA tiene claramente beneficios, pero cree que debe desarrollarse en el contexto de instituciones confiables, que se interesen “no sólo en lo que es bueno para un individuo sino para la sociedad en general”.

Por tanto, habrá posibilidades de que “la IA no sólo sea eficaz, sino también justa”.

Bueno, como nos advirtió Platón sobre la escritura, cualquier tecnología, por maravillosa que sea, tiene sus defectos.

Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.