A medida que la gente intenta encontrar más usos para la IA generativa que tengan menos que ver con tomar una foto falsa y más con una utilidad real, Google planea dirigir la IA hacia la ciberseguridad y hacer que los informes de amenazas sean más fáciles de leer. En una publicación de blog, Google escribió que su nuevo producto de ciberseguridad, “Google Threat Intelligence”, combinará el trabajo de su unidad de ciberseguridad Mandiant y la inteligencia de amenazas VirusTotal con el modelo Gemini AI. ¡Todos los detalles al respecto a continuación!
Aspectos destacados que necesita saber sobre el nuevo producto de ciberseguridad
Fundamentalmente, el nuevo producto utiliza el modelo de lenguaje grande Gemini 1.5 Pro, que según Google reduce el tiempo necesario para aplicar ingeniería inversa a los ataques de malware. La compañía afirmó que Gemini 1.5 Pro, lanzado en febrero, tardó solo 34 segundos en analizar el código del virus WannaCry (el ataque de ransomware de 2017 que paralizó hospitales, empresas y otras organizaciones en todo el mundo) e identificar un interruptor de apagado. Es de destacar que esto es impresionante, pero no sorprendente, dada la capacidad de los LLM para leer y escribir código.
Pero otro posible uso de Gemini en el espacio de amenazas es resumir los informes de amenazas en lenguaje natural dentro de “Inteligencia de amenazas” para que las empresas tengan la capacidad de evaluar cómo los posibles ataques pueden afectarlas o, en otras palabras, para que las empresas no reaccionen exageradamente o reaccionar poco ante las amenazas.
Google ha señalado que la “Inteligencia sobre amenazas” también cuenta con una amplia red de información para monitorear amenazas potenciales antes de que ocurra un ataque. Según se informa, permite a los usuarios ver una imagen más amplia del panorama de la ciberseguridad y priorizar en qué centrarse. Mandiant proporciona expertos humanos que monitorean grupos potencialmente maliciosos y consultores que trabajan con empresas para bloquear ataques. La comunidad VirusTotal, por su parte, también publica periódicamente indicadores de amenazas.
Como se ha descubierto, la empresa también planea utilizar expertos de Mandiant para evaluar las vulnerabilidades de seguridad en torno a proyectos de Inteligencia Artificial (IA). A través del Secure AI Framework de Google, Mandiant probará las defensas de los modelos de AI y ayudará en los esfuerzos de formación de equipos rojos. Aunque los modelos de IA pueden ayudar a resumir las amenazas y aplicar ingeniería inversa a los ataques de malware, en ocasiones los propios modelos pueden ser víctimas de actores maliciosos. Estas amenazas a veces incluyen “intoxicación de datos”, que agrega código incorrecto a los datos que recopilan para que los modelos no puedan responder a indicaciones específicas. Por este motivo, es bueno utilizar la IA para aspectos que van mucho más allá de una imagen.
