ChatGPT se ha vuelto popular gracias a su interfaz de usuario fácil de usar y a su formato conversacional. Es tan popular y fácil de usar que los hackers empezaron a utilizarla frecuentemente para crear correos electrónicos de phishing y códigos de malware convincentes. Esto hizo que la plataforma mejorará sus funciones para detectar solicitudes ilegales o poco éticas, como la redacción de correos electrónicos de phishing.
Sin embargo, estas restricciones rara vez han detenido a los ciberdelincuentes. Estos siguen encontrando formas de superar estos obstáculos y utilizar la IA para la ciberdelincuencia. ManageEngine, la división de gestión de TI empresarial de Zoho Corporation, analiza tres escenarios en los que ChatGPT podría utilizarse para llevar a cabo ciberataques.
- Ataques de phishing: Los atacantes redactan correos electrónicos de phishing convincentes, haciéndose pasar por altos directivos u otros funcionarios importantes mediante ChatGPT. Los correos electrónicos pueden ser persuasivos, engañando a destinatarios inocentes para que hagan clic en enlaces maliciosos. Si uno de esos destinatarios es un empleado, esto puede facilitar el acceso inicial a la red que los atacantes siempre están buscando.
- Generación de código malicioso: Los atacantes pueden crear códigos malware utilizando ChatGPT. Estos códigos pueden utilizarse para llevar a cabo una serie de ataques basados en la ejecución, incluidos los ataques PowerShell. Esto significa que los script kiddies, o atacantes novatos, pueden aprovechar ChatGPT para sus planes nefastos.
- Ataques a API: Los ciberdelincuentes están utilizando ChatGPT para revisar la documentación de la API. Esta documentación contiene información útil para los nuevos desarrolladores que intentan comprender la nueva API. ChatGPT examina esta información para extraer posibles consultas y datos agregados. Estos datos pueden utilizarse para encontrar posibles vacíos en la API. A continuación, se puede lanzar un ataque a la API.
Cuando miramos más allá de las formas en que puede utilizarse destructivamente, ChatGPT representa el comienzo de una nueva era en la que la IA ocupa un lugar central en el ámbito de la ciberseguridad.
“La IA se está convirtiendo en una parte inevitable de todas las operaciones de TI, especialmente de ciberseguridad. Las organizaciones, además de implementar capacidades de IA y ML para mejorar sus funciones, también deben considerar invertir estratégicamente en soluciones para mejorar su postura de seguridad. Estos productos de seguridad deben ayudar a las empresas a prepararse para una avalancha de ataques basados en IA y facilitar enfoques tanto proactivos como defensivos en materia de ciberseguridad”, dijo Anupama Akkapeddi, Product Consultant de ManageEngine.
ManageEngine comparte algunas formas en las que ChatGPT puede ayudar a los analistas de ciberseguridad:
- Disminución del trabajo con gran consumo de recursos: Aplicaciones como ChatGPT ayudan a abordar estos problemas y ofrecen alternativas que pueden ayudar a los equipos de seguridad a reducir la sobrecarga cognitiva y dedicar más tiempo a los incidentes que requieren su atención inmediata. Por ejemplo, los analistas de seguridad pueden interpretar los datos de un informe de seguridad y, a continuación, utilizar ChatGPT para narrar lo que ha ocurrido exactamente.
- Mejorar la experiencia del analista: ChatGPT puede ayudar a guiar a un analista de seguridad paso a paso a través de un incidente de seguridad, al tiempo que explica por qué el siguiente paso es el mejor curso de acción. Esto también podría mejorar la experiencia de los analistas en el futuro. Y en ciberseguridad, la experiencia del analista es algo en lo que los proveedores deberían hacer mucho énfasis.
La llegada de ChatGPT es simplemente el comienzo de la era de la IA en la ciberseguridad. Con Google lanzando su propia versión de ChatGPT llamada Bard, Microsoft invirtiendo en OpenAI, y OpenAI lanzando una versión de pago de ChatGPT, hay mucho más por delante. Es hora de empezar a implementar una estrategia de ciberseguridad que aborde las amenazas y las oportunidades que estos avances ponen sobre la mesa. La mejor manera de hacerlo es adoptando las mejores prácticas e invirtiendo en soluciones avanzadas de seguridad que aborden estos requisitos de seguridad empresarial.
Discussion about this post