¿Combatir el fuego con fuego? La generación de IA como defensa contra los ciberataques impulsados ​​por la IA

Un clip de 15 segundos de la voz de alguien es todo lo que necesita la potente plataforma de generación de texto a voz de OpenAI para crear un clip de audio sintético. No sorprende que hayan considerado que Voice Engine es demasiado arriesgado para su lanzamiento general, por ahora, aunque la utilidad prevista incluye asistencia de lectura, traducciones y aplicaciones para personas con capacidades diferentes. La aprensión de OpenAI es comprensible. Las herramientas de IA generativa son posiblemente la tecnología más transformadora de nuestro tiempo; sin embargo, los actores de amenazas están utilizando modelos de lenguaje grande (LLM, por sus siglas en inglés) para generar ataques de phishing, malware, identidades digitales transformadas, deepfakes y comunicaciones engañosas casi realistas.

“La ciberseguridad es inherentemente un problema de datos: cuantos más datos puedan procesar las empresas, más eventos podrán detectar y abordar”, dijo Jensen Huang, fundador y director ejecutivo de Nvidia, en un discurso reciente en el que anunció herramientas para construir ‘copilotos’ de IA de generación. El contenido generado por IA, ahora cada vez más realista, está desdibujando la fina línea entre la realidad y las generaciones, tanto para los consumidores como para las empresas.

HT lanza Crick-it, un destino único para ver Cricket, en cualquier momento y en cualquier lugar. ¡Explora ahora!

La esperanza es que la IA pueda mejorar la detección de ciberataques e identificar correos electrónicos maliciosos, así como malware o phishing, lo que en última instancia los hará más fáciles de contrarrestar. La escala de estas amenazas es tal que la consultora McKinsey espera que el espacio de ciberseguridad valga hasta 2 billones de dólares para 2025, frente a los 150 millones de dólares de 2021.

Sin embargo, ya no es posible distinguir entre consumidores y empresas como corrientes separadas, como hacemos a menudo con la tecnología y las soluciones, ya que la IA generativa ha desdibujado esas líneas. Hay conjuntos de herramientas similares disponibles para consumidores y suscriptores empresariales. Google Gemini y Copilot de Microsoft, dos ejemplos. Cualquier mejora en los LLM para sistemas empresariales y en la nube también beneficiará a los consumidores.

A fines de la semana pasada, la empresa de tecnología Cisco anunció su solución Cisco Hypershield para empresas, para proteger aplicaciones, dispositivos y datos en centros de datos públicos y privados, así como redes en la nube. Los datos que están protegidos por las empresas que utilizan esta solución (y otras similares) son nuestros datos. Más concretamente, Cisco está colaborando con Nvidia para esto, y su plan es lograr una compatibilidad y capacidades más amplias.

“También extenderemos Hypershield más allá del centro de datos. En poco tiempo, un hospital podrá proteger sus dispositivos médicos y otra tecnología operativa con Hypershield. Los fabricantes podrán hacer lo mismo con la tecnología que se encuentra en la fábrica”, afirma Tom Gillis, vicepresidente sénior y director general del grupo empresarial de seguridad de Cisco.

Existe una fácil disponibilidad de una amplia gama de herramientas de generación de texto a imagen, texto a voz y audio a audio cada vez más competentes, algunas de ellas fácilmente accesibles desde teléfonos inteligentes y PC. Eso también puede generar más actores amenazantes. También se cubre una amplia gama de contenidos. Más allá de generar medios, las herramientas de inteligencia artificial pueden ayudar a los usuarios a generar correos electrónicos y resumir documentos, que pueden usarse para comunicaciones engañosas a través de identidades digitales generadas.

Ya no se puede evitar inteligentemente ser estafado por alguien que dice ser un príncipe nigeriano y busca ayuda con la banca para desviar su riqueza. “GenAI ya se puede utilizar para permitir una interacción convincente con las víctimas, incluida la creación de documentos señuelo, sin los errores de traducción, ortografía y gramaticales que a menudo revelan phishing. Es muy probable que esto aumente en los próximos dos años a medida que los modelos evolucionen y aumente su aceptación”, advierte el Centro Nacional de Seguridad Cibernética del Reino Unido.

¿Es posible que solo el monitoreo humano y las herramientas que no dependen de una computación rápida puedan detectar ataques pequeños o incluso de gran escala? La situación no inspira mucha confianza. “Los analistas humanos ya no pueden defenderse eficazmente contra la creciente velocidad y complejidad de los ataques de ciberseguridad”, dice David Reber Jr., director de seguridad de Nvidia.

Hay razones para esto. “El auge de la IA generativa tiene el potencial de reducir la barrera de entrada para adversarios poco cualificados, facilitando el lanzamiento de ataques más sofisticados y de última generación”, afirmó George Kurtz, director ejecutivo y cofundador de CloudStrike, señalando Destaca un nuevo elemento en la batalla de la ciberseguridad de múltiples capas, en el Informe de amenazas globales 2024 de la empresa de seguridad.

Hacen referencia a un sofisticado grupo de delitos electrónicos, Indrik Spider, que en febrero del año pasado accedió a datos almacenados en el administrador de credenciales basado en la nube Azure Key Vault. Los registros muestran que los actores de amenazas visitaron ChatGPT simultáneamente, presumiblemente para obtener orientación rápida sobre cómo navegar por la plataforma Azure.

Además, OpenAI confirmó en febrero que múltiples actores de amenazas utilizaron sus herramientas de inteligencia artificial de generación para ayudar a montar ataques cibernéticos. Un grupo llamado Charcoal Typhoon utilizó ChatGPT para investigar varias empresas y herramientas de seguridad, depurar código y generar scripts para phishing, mientras que un grupo llamado Salmon Typhoon necesitaba traducir documentos técnicos, ayudar con la codificación e investigar formas en que los procesos podrían ocultarse en un sistema.

Estos y muchos otros usuarios similares tenían sus cuentas deshabilitadas, pero después OpenAI profundizó. “Nuestros equipos de Inteligencia e Investigaciones, Seguridad e Integridad investigan a los actores maliciosos de diversas maneras, incluido el uso de nuestros modelos para buscar pistas, analizar cómo los adversarios interactúan con nuestra plataforma y evaluar sus intenciones más amplias”, dicen en a la declaración.

Los ataques para obtener acceso a los datos suelen ir acompañados de métodos como el intercambio de SIM, la omisión de MFA y el uso de claves API robadas para obtener el acceso inicial.

¿Combatir el fuego con fuego?

La IA generativa se puede utilizar para la detección adaptativa de amenazas, el análisis predictivo, el análisis de huellas dactilares de malware y phishing e incluso para simular amenazas que permitirán escenarios de capacitación más reales.

Para consumidores y empresas, Copilot for Security de Microsoft, ahora disponible a nivel mundial, utilizará IA generativa para implementar datos a gran escala e inteligencia sobre amenazas, con más de 78 billones de señales de seguridad procesadas por el gigante tecnológico todos los días. “La primera solución de IA generativa de la industria ayudará a los profesionales de TI y seguridad a captar lo que otros pasan por alto”, afirma Vasu Jakkal, vicepresidente corporativo de Seguridad, Cumplimiento, Identidad y Gestión de Microsoft.

Los copilotos de seguridad no solo están destinados a monitorear amenazas, sino que un elemento clave es ayudar a un usuario humano, con mayor precisión. Check Point Software, una empresa de ciberseguridad, lanzó su Infinity AI Copilot para espacios de trabajo, redes en la nube y redes locales, trabajando junto con humanos (también hay un chatbot) para detectar y contrarrestar las amenazas entrantes. La reciente asociación de Nvidia con CloudStrike combinará los métodos de ciberseguridad de este último con la computación acelerada Morpheus de Nvidia y las plataformas de inteligencia artificial generativa NIM, para una detección de amenazas más rápida.

En India, hay avances en el desarrollo de competencias para luchar contra las amenazas en línea que utilizan la IA generativa como columna vertebral, con un uso igual de la IA generativa como contraataque. La Karnataka Innovation Technology Society (KITS) y la empresa de tecnología Cisco están colaborando en un programa que ayudará a mejorar las habilidades en ciberseguridad de hasta 40.000 profesionales en el país. La semana pasada, C3iHub, un Centro Nacional de Innovación Tecnológica (TIH) para Ciberseguridad Avanzada en el Instituto Indio de Tecnología Kanpur (IITK) anunció un nuevo programa de incubación de empresas emergentes para múltiples dominios, incluida la ciberseguridad y la seguridad mediante IA.

¡Descubra la historia completa de las elecciones generales de la India en nuestro exclusivo Producto Electoral! Accede a todo el contenido totalmente gratis en la HT App. ¡Descargar ahora!
Manténgase informado sobre Business News, TCS Q4 Results Live, Jio Financial Services Q4 Results Live junto con Gold Rates Today, India News y otras actualizaciones relacionadas en el sitio web y las aplicaciones de Hindustan Times.

Noticias / negocio / ¿Combatir el fuego con fuego? La generación de IA como defensa contra los ciberataques impulsados ​​por la IA