Kaspersky analiza los conocimientos de ciberseguridad adquiridos por ChatGPT y su potencial de convertirse en un aliado en la lucha contra el cibercrimen
La IA de ChatGPT muestra tener una gran capacidad que puede ser de ayuda para evitar que las personas caigan en ciberestafas ayudando a detectar los enlaces engañosos que pueden poner en riesgo la seguridad de la información de los usuario de internet.
Expertos de Kaspersky han realizado una investigación con el objetivo de conocer la capacidad de ChatGPT para detectar enlaces de phishing. A pesar de que este bot ya había demostrado ser capaz de crear correos electrónicos de phishing y código malware, mostró una tasa de falsos positivos del 64%, arrojando explicaciones y pruebas falsas para justificar las decisiones.
ChatGPT es motivo de discusión en el sector de la ciberseguridad por su potencial para crear correos de phishing y su impacto en la ciberseguridad, a pesar de que sus creadores explican que es demasiado pronto para que pueda ser una amenaza. En este contexto, los expertos de Kaspersky decidieron realizar una serie de pruebas para saber si es capaz de detectar enlaces de phishing. Así, utilizaron gpt-3.5-turbo, el modelo que impulsa ChatGPT, con más de 2,000 enlaces de phishing mezclados con otros miles de URL seguras.
Las tasas de detección fueron dispares. Se le preguntó de dos formas distintas: ¿Este enlace conduce a un sitio web de phishing? y ¿Es seguro visitar este enlace? En la primera pregunta, ChatGPT tuvo una tasa de detección del 87.2% y un 23.2% de falsos positivos. En la segunda, obtuvo una tasa de detección más alta, del 93.8%, pero una de falsos positivos del 63.4%. Es decir, el nivel de detección de amenazas es muy alto, pero también lo es el de errores.
Otra cuestión que se plantearon los expertos de Kaspersky es si ChatGPT podría clasificar e investigar los ciberataques. Usualmente, los atacantes mencionan marcas populares en sus enlaces para engañar a la víctima, haciéndola creer que la URL es legítima y pertenece a una empresa de confianza. ChatGPT mostró unos resultados sorprendentes en la identificación de posibles objetivos de phishing: resolvió con éxito un objetivo de suplantación de identidad en más de la mitad de las URL, entre los que se encontraron portales y apps tan populares como Facebook, TikTok, Google, Amazon y numerosos bancos de todo el mundo, y lo hizo sin ninguna información adicional ni aprendizaje previo.
El experimento también mostró que ChatGPT tiene problemas al justificar lo que considera un enlace malicioso. Algunas de las explicaciones fueron correctas y se basaron en hechos probados, pero otras fueron erróneas, engañosas e inventadas, a pesar de formularse con una gran credibilidad.
El principal científico de datos de Kaspersky, Vladislav Tushkanov explica que:
“Hoy en día, la detección de ataques de phishing con ChatGPT tiene limitaciones. Puede estar al nivel de un analista a la hora de razonar sobre los ataques de phishing y revelar objetivos potenciales, pero en ocasiones tiende a inventar respuestas y mostrar resultados erróneos. Se puede decir que es una herramienta útil, pero de momento no va a revolucionar el panorama de la ciberseguridad”
El equipo de Machine Learning de Kaspersky está a la vanguardia en la aplicación de tecnologías de aprendizaje automático al sector de la ciberseguridad, actualizando constantemente sus productos con la última tecnología y conocimiento. Para aprovechar la experiencia de Kaspersky en aprendizaje automático y estar siempre protegido, sus expertos recomiendan:
Más información | Securelist.
Review de la laptop convertible HP Envy x360 15" 2-en-1 (2023) con Core i7 y… Leer más
Los AMD Ryzen 7 8700F y Ryzen 5 8400F sin GPU integrada ya están a… Leer más
Aprovecha las ofertas y descuentos de Xiaomi y POCO durante el HOT Sale 2024 y… Leer más
El torneo Academy Invitational 2024 se llevará a cabo el 18 de mayo y habrá… Leer más
Aliexpress México anuncia su primera participación en el HOT Sale 2024 con descuentos de hasta… Leer más
La torre oscura LOTR: BARAD-DÛR de LEGO con el Ojo de Sauron y más de… Leer más
Utilizamos cookies propias y de terceros para mejorar nuestros servicios. Si continúa navegando, consideramos que acepta su uso. Puede obtener más información, o bien conocer cómo cambiar la configuración, en nuestra política de cookies.
Lee Mas
Deja un comentario