La inteligencia artificial (IA) ha desatado la euforia en los mercados, pero no es oro todo lo que reluce en el sector. Los grandes bancos ya incluyen esta tecnología como uno de los riesgos empresariales a los que se enfrentan. Santander, Goldman Sachs, Citi, Intesa Sanpaolo e ING han introducido esta tecnología en el catálogo de riesgos a los que se enfrentan a corto plazo.
Santander es el banco que más detalles ofrece sobre los riesgos de la IA. En varios informes enviados recientemente tanto a la Comisión Nacional del Mercado de Valores (CNMV) como al supervisor de mercados americano (SEC), el banco señala que el rápido avance de esta tecnología y la regulación que se está desarrollando para limitar su uso pueden provocar gastos adicionales. para adaptarse a los marcos regulatorios y el grupo incurre en incumplimientos regulatorios que conllevan sanciones. “Existe el riesgo de que el software o las aplicaciones basadas en IA actuales o futuras del grupo puedan caer en ciertas categorías de riesgo que pueden requerir el cumplimiento de los requisitos aplicables de la Ley de IA, lo que puede resultar en costos adicionales para el banco. , aumentar el riesgo de responsabilidad o afectar negativamente a su negocio”, indica Santander en el documento.
Asimismo, señala que debido a la velocidad con la que avanza la inteligencia artificial pueden surgir nuevas regulaciones que obliguen a reformular las aplicaciones de inteligencia artificial y que supondrían costes adicionales. “Es posible que el grupo no pueda anticipar cómo responder a estas leyes y regulaciones en rápida evolución, y puede que necesite gastar recursos para adaptarse a las regulaciones en todos los mercados en los que opera. Además, debido a que la tecnología de IA en sí es muy compleja y se desarrolla rápidamente, no es posible predecir todos los riesgos legales o regulatorios que pueden surgir relacionados con su uso”, añade el banco.
En cualquier caso, hay que tener en cuenta que las entidades financieras, en sus comunicaciones con el supervisor, deben incluir todos los riesgos que puedan impactar en el negocio (por muy hipotéticos que sean) y abarcar una amplia variedad de supuestos. Por lo tanto, que aparezca un riesgo en tus informes no significa que represente un peligro inminente o que vaya a provocar pérdidas en el negocio.
Regulación europea y posibles multas
La inteligencia artificial ha desatado una carrera empresarial para incorporar esta tecnología bajo la promesa de que revolucionará los sectores en términos de eficiencia, productividad y seguridad. En el sector financiero, las principales aplicaciones de la IA van dirigidas a evaluar el riesgo de las carteras, analizar la solvencia de los clientes, asesorar a los usuarios bancarios, la posibilidad de realizar ofertas personalizadas, reducir costes en procedimientos automatizables o el refuerzo del fraude. sistemas de prevención. Fuentes de Santander detallan que el banco lleva años apostando por el uso de datos y analítica avanzada para “captar nuevos clientes y mejorar la experiencia de los existentes, así como potenciar la eficiencia”. De hecho, el grupo cuenta con un laboratorio de IA en el centro corporativo y unidades de negocio.
Pero más allá de los beneficios que pueda generar para las empresas, los organismos de control están desarrollando normativas para regular la IA y evitar usos que puedan poner en peligro la seguridad de los ciudadanos, de las empresas o que no cumplan criterios éticos. En esta línea, la Unión Europea avaló en marzo una regulación sobre Inteligencia Artificial, que busca crear un entorno seguro para promover las inversiones en este campo, pero garantizando que las empresas respeten la seguridad y los derechos de las personas.
Entre las principales cuestiones, establece cuatro categorías de riesgo para las aplicaciones de IA: riesgo mínimo (pueden usarse libremente), riesgo limitado (están sujetas a requisitos de transparencia), riesgo alto (están sujetas a requisitos de seguridad adicionales) y riesgo inaceptable. (su uso está prohibido). En lo que respecta al sector bancario, las principales aplicaciones que serán objeto de regulación tienen que ver con análisis de solvencia para la concesión de crédito, sistemas de gestión de recursos humanos, aplicaciones que utilizan datos biométricos o sistemas que se basan en contenidos audiovisuales. . Las empresas que incumplan los requisitos de la normativa (que se espera que entre en vigor en 2026) se enfrentan a multas que pueden oscilar entre 7,5 millones de euros y 35 millones, o el 7% de la facturación global de la empresa, según el gravedad de la infracción y el tamaño de la empresa.
El gobernador del Banco de España, Pablo Hernández de Cos, advirtió ayer en Washington, durante su participación en la conferencia organizada por el Instituto de Finanzas Internacionales (IIF), del riesgo de que la inteligencia artificial amplifique las crisis bancarias. En este sentido, Cos señaló que los bancos deben anticipar y monitorear los riesgos y desafíos que plantean la inteligencia artificial y el aprendizaje automático e incorporarlos a sus mecanismos diarios de gestión de riesgos y gobierno.
Fuga de datos y pérdida de competitividad
Otros grandes bancos europeos también han advertido en los informes que envían al mercado de los riesgos que supone la incorporación de la IA en su negocio. ING señala en su informe anual de 2023 el peligro de que una filtración revele datos confidenciales o personales tanto del banco como de los clientes. “A medida que los bancos incorporan cada vez más la IA en sus procesos y sistemas, el riesgo de fugas de datos e información sensible, de propiedad o confidencial de nosotros o de nuestros clientes podría filtrarse, revelarse o revelarse como resultado de nuestro uso o la nuestra de la misma. nuestros proveedores externos”, explica el banco.
“Si confiamos en modelos de IA desarrollados por terceros, dependeríamos en parte de cómo desarrollen y entrenen sus modelos, incluidos los riesgos derivados de la inclusión de cualquier material no autorizado, sobre el cual podemos tener visibilidad limitada. Podría exponernos a responsabilidades o consecuencias legales y reglamentarias adversas y dañar nuestra reputación y la percepción pública de nuestro negocio o la eficacia de nuestras medidas de seguridad”, detalla en la misma línea el banco estadounidense Goldman Sachs.
Al otro lado del Atlántico, en Estados Unidos no existe una regulación tan ambiciosa como la desarrollada por la Unión Europea, pero se está trabajando para desarrollar regulaciones, recomendaciones y estándares para el uso de la IA. A fines del año pasado, el presidente Joe Biden firmó una orden ejecutiva que exige que las grandes empresas de inteligencia artificial informen los resultados de las pruebas de seguridad al gobierno y a varias agencias para desarrollar estándares y recomendaciones que incluyan los riesgos de la inteligencia artificial. Por ello, algunos de los grandes bancos también incluyen la inteligencia artificial como factor de riesgo en sus comunicaciones con la SEC (el regulador de los mercados americano).
Y no sólo por las implicaciones legales, sino también en términos de negocio y reputación. “No aprovechar estratégicamente el potencial de la inteligencia artificial puede resultar en una desventaja competitiva. Al mismo tiempo, como nueva tecnología, el uso de la IA sin suficientes controles, gobernanza y gestión de riesgos puede generar mayores riesgos en todas las categorías. Por ejemplo, los productos de pagos instantáneos podrían ir acompañados de desafíos en la previsión y gestión de la liquidez, así como de mayores riesgos operativos y de cumplimiento”, detalla Citi.
Sigue toda la información Cinco días en Facebook, X y LinkedIno en nuestro boletín Agenda de cinco días
Boletines
Regístrate para recibir información económica exclusiva y las noticias financieras más relevantes para ti
¡Inscribirse!
