Él papa francisco Es un octogenario que dice que no puede usar una computadora, pero una tarde de febrero de 2019, un alto diplomático estadounidense de las Big Tech entró en la residencia papal en busca de orientación sobre la ética de una tecnología en desarrollo: inteligencia artificial.
El presidente de Microsoft, Brad Smithy el Papa habló sobre el rápido desarrollo de la tecnología, dijo Smith en una entrevista con El Correo de Washington, y Francisco pareció comprender sus riesgos. Cuando Smith se fue, el Papa lanzó una advertencia. “Mantén tu humanidad”Instó mientras agarraba la muñeca de Smith.
En los cinco años transcurridos desde esa reunión, la IA se ha vuelto inevitable, como descubrió el propio Papa el año pasado cuando imágenes virales de él vistiendo una chaqueta Balenciaga anunciaron una nueva era de falsificaciones. Y a medida que la tecnología ha proliferado, el Vaticano se ha posicionado como la conciencia de empresas como Microsoft y ha surgido como una voz sorprendentemente influyente en el debate sobre la gobernanza global de la IA.
El viernes en el sur de Italia, Francisco se convirtió en el primer Papa en dirigirse a un foro de líderes mundiales del Grupo de los Siete. Entregar un tratado moral sobre la “revolución cognitivo-industrial” que representa la IA.en un intento de plantear el tema de la misma manera que lo hizo con el cambio climático.
En un amplio discurso, el Papa describió las ramificaciones de una tecnología “tan fascinante como aterradora”, diciendo que podría cambiar “la forma en que concebimos nuestra identidad como seres humanos”. Denunció que la IA podría consolidar el dominio de la cultura occidental y socavar la dignidad humana.
La IA, dijo, se presenta como una herramienta que podría democratizar el conocimiento, hacer avanzar la ciencia “exponencialmente” y aliviar la condición humana a medida que las personas ceden “tareas arduas a las máquinas”. Pero advirtió que también tiene el poder de destruir y pidió una prohibición “urgente” de las armas letales autónomas. Como un fantasma del futuro, hizo referencia a la novela distópica de 1907 “El señor del mundo”, en la que la tecnología reemplaza la religión y la fe en Dios.
“Ninguna máquina debería jamás optar por quitarle la vida a un ser humano”.dijo el Papa.
Ya ha insistido en que los riesgos de la IA deben gestionarse a través de un tratado global, y el viernes respaldó la necesidad de un conjunto de “principios” globales unificadores para guiar el desarrollo de la IA.
El “Llamado de Roma para la ética de la inteligencia artificial” –un documento que contó con el Vaticano, Microsoft e IBM entre sus firmantes originales en 2020– se está convirtiendo en el estándar de oro para las mejores prácticas de IA. Ha servido de base para las discusiones del G-7 sobre el desarrollo de un código de conducta. Y el viernes, los líderes del G-7 –con el apoyo del Vaticano– anunciaron que crearían una especie de insignia de honor: una nueva etiqueta para las empresas que aceptan desarrollar herramientas de IA de forma segura y ética y seguir directrices para la notificación y el seguimiento voluntarios de riesgos. Haciéndose eco de las preocupaciones del Vaticano, los líderes pidieron además “usos militares responsables de la IA”.
La cuestión de la IA ha brindado una oportunidad para que la Iglesia, disminuida por su manejo de los escándalos de abuso sexual clerical, reafirme su autoridad moral. Microsoft y al menos algunas otras empresas tecnológicas parecen ansiosas por obtener el sello de aprobación de la Iglesia, mientras la industria enfrenta los desafíos de relaciones públicas de una tecnología que podría automatizar trabajos, amplificar la información errónea y crear nuevos riesgos de ciberseguridad. .
El Vaticano se ha ganado un lugar en la mesa de las grandes tecnológicas. Una antigua institución con una historia desigual en el campo de la ciencia (véase el juicio a Galileo) envía ahora representantes a los grandes eventos tecnológicos.
El cura Paolo Benanti – el principal experto del Vaticano en Inteligencia Artificial, un sacerdote franciscano e ingeniero de formación a quien se le atribuye haber acuñado el término “algorética” – el año pasado consiguió un puesto en el Órgano Asesor de las Naciones Unidas sobre Inteligencia Artificial y se ha convertido en un actor importante en el desarrollo. de una política nacional de Inteligencia Artificial para Italia, país del G-7. A petición del Vaticano, IBM organizó una cumbre mundial de escuelas en la Universidad de Notre Dame para poner la ética de la IA al frente de los planes de estudio.
Las opiniones del Vaticano han influido en decisiones empresariales específicas. Smith, de Microsoft, dijo al Post: “Desarrollamos nuestra propia tecnología que permitiría a cualquier persona, en tan sólo unos segundos, replicar la voz de cualquier persona. Y decidimos no revelarlo”. Los principios de Roma, añadió, son “ciertamente parte de lo que nos ha ayudado en Microsoft a esforzarnos por adoptar un enfoque amplio para el desarrollo de la IA, incluso dentro de nuestras cuatro paredes. Creo que nos ha proporcionado un amplio marco humanístico e intelectual”.
El énfasis del compromiso en la inclusión también influyó en la decisión de la compañía de lanzar una beca que reúne a investigadores y líderes de la sociedad civil, en su mayoría del Sur Global, para evaluar el impacto de la tecnología, dijo. Natasha Crampton, director responsable de Inteligencia Artificial de Microsoft. Los pasantes ayudaron a la empresa a desarrollar evaluaciones multilingües de modelos de IA y se aseguraron de que la empresa comprenda el contexto local y las normas culturales al desarrollar nuevos productos.
No todas las empresas están de acuerdo con los principios de Roma. Algunos han seguido adelante con audio manipulado por IA que, según advierten los investigadores, podría usarse para engañar a los votantes antes de las elecciones.
Tampoco a todos se les ha permitido unirse al club de Roma. La empresa china “Huawei preguntó”, afirma el arzobispo Vincenzo Paglia, presidente de la Academia Pontificia para la Vida. “Y dijimos que no, porque realmente no sabemos qué piensan. [los responsables de allí]”.
Mientras tanto, el Vaticano sigue preocupado por el mal uso de la IA de código abierto. La tecnología podría producir grandes beneficios en la atención sanitaria y la educación, afirmó Benanti. “Pero también puede multiplicar muchos elementos negativos en la sociedad, y no podemos difundir la IA por todas partes sin ninguna decisión política, porque mañana podríamos despertar con un multiplicador de desigualdad, de armas biológicas”, afirmó.
Los funcionarios del Vaticano ya han dado la alarma sobre lo que consideran usos potencialmente poco éticosincluidos los sistemas de reconocimiento facial implementados en la represión de los manifestantes en Hong Kong en 2019-2020, así como algoritmos para el procesamiento de refugiados como los de Alemania, donde se han utilizado pruebas lingüísticas impulsadas por inteligencia artificial para establecer si los solicitantes de asilo mienten sobre su lugar. de origen.
La relación entre el Vaticano y los innovadores de la IA tuvo su génesis en un discurso que Benanti pronunció en 2018 sobre la ética de la IA. Un alto representante de Microsoft en Italia estaba entre la audiencia y los dos comenzaron a reunirse regularmente. Trajeron a Paglia, que estaba interesado en ampliar el alcance de su beca más allá de temas centrales como la ética de la investigación con células madre.
Antes de la visita de Smith al Papa, Paglia lo acompañó a ver el “Juicio Final” de Miguel Ángel en la Capilla Sixtina y le mostró las representaciones de Galileo de la Tierra girando alrededor del Sol, teoría que le valió arresto domiciliario de por vida. después de un juicio eclesiástico.
Sin embargo, La relación del Vaticano con la ciencia no siempre ha sido ludita. En la Edad Media, los eruditos católicos plantaron en Europa lo que se convertirían en algunas de sus mejores universidades. Y aunque algunos clérigos se dirigieron a ella, la teoría de la evolución de Darwin nunca fue oficialmente cuestionada por el Vaticano.
La Iglesia declara oficialmente que “fe y razón” no están en conflicto.
“La Biblia no nos dice cómo funciona el cielo, sino cómo llegar allí”dijo Paglia, citando a Galileo. El arzobispo ha realizado viajes oficiales a la sede de Microsoft cerca de Seattle y a las oficinas de IBM en Nueva York.
Gracias a sus agresivas inversiones en inteligencia artificial, Microsoft se ha convertido en la empresa más valiosa del mundo, con un valor de más de 3 billones de dólares. Pero su éxito continuo depende de frenar las percepciones negativas sobre la IA. La preocupación de que esta tecnología pueda desplazar puestos de trabajo, exacerbar las desigualdades, mejorar la vigilancia y dar paso a nuevos tipos de guerra está llevando a los gobiernos de todo el mundo a considerar regulaciones estrictas que podrían frenar las ambiciones de la empresa.
La Unión Europea está preparando una ley histórica que podría limitar los modelos de IA generativa más avanzados. La Comisión Federal de Comercio está investigando un acuerdo que Microsoft cerró con la startup de inteligencia artificial Inflection, para determinar si el gigante tecnológico organizó deliberadamente la inversión para evitar una revisión de la fusión. Y las autoridades estadounidenses han llegado a un acuerdo que expondrá a la empresa a un mayor escrutinio sobre cómo ejerce su poder para dominar la inteligencia artificial, incluidas sus inversiones multimillonarias en OpenAI, fabricante de ChatGPT. Esa relación también ha expuesto a Microsoft a nuevos riesgos para su reputación, ya que el director ejecutivo de OpenAI, Sam Altman, con frecuencia genera controversia.
Bajo la dirección de Smith, Microsoft ha creado una de las organizaciones de lobby más sofisticadas del mundo para desactivar sus problemas regulatorios y tratar de convencer a la gente de que es el titán tecnológico en el que el mundo puede confiar para crear IA. Smith se reúne periódicamente con jefes de Estado y el mes pasado asistió a la inauguración de una fábrica con el presidente Biden. Para ser una empresa eficaz, Microsoft tiene que encontrar formas de trabajar con los gobiernos y garantizar que su tecnología pueda trascenderlos, afirmó Smith.
La “organización global más antigua del mundo” puede ser un maestro y un socio único en ese esfuerzo, dijo, refiriéndose al Vaticano. El catolicismo y otras religiones no están sujetos a fronteras nacionales, como tampoco lo están las aplicaciones que Microsoft vende en todo el mundo.
“Por un lado, se podría pensar que somos extraños compañeros de cama”, dijo Smith. “Pero en la otra mano, Es una combinación perfecta”.
© 2024, El Washington Post
