LOGOTD2016 2

Domingo 14 de Abril de 2024

+57(1) 361 87 14

ChatGPT y ciberseguridad: los 5 principales riesgos de ciberseguridad de ChatGPT

ChatGPT se ha encontrado con escepticismo y optimismo en igualdad de medidas en el ámbito de la ciberseguridad.

 

Los profesionales de TI aprovechan este chatbot para escribir reglas de firewall, detectar amenazas, desarrollar códigos personalizados, probar software y vulnerabilidad, y más.

 

Esto también tiene otra implicación –, ha hecho la vida mucho más fácil para los ciberdelincuentes novatos con recursos frugales y poco o ningún conocimiento técnico. Los hackers pueden explotar sus capacidades para escribir código malicioso y probar aplicaciones para vulnerabilidades para explotar y crear contenido malicioso. Realizan campañas masivas de phishing o realizan ataques de ransomware bastante a la perfección.

 

¿Qué es ChatGPT?


ChatGPT es un chatbot impulsado por IA basado en un complejo modelo de aprendizaje automático desarrollado por Open AI, una empresa privada de investigación y IA especializada en IA generativa. Lanzado en noviembre de 2022, ChatGPT funciona con Natural Language Processing ( NLP ) para ofrecer respuestas significativas y similares a las de los usuarios y entablar conversaciones con los usuarios.

 

Está capacitado mediante el aprendizaje de refuerzo de comentarios humanos ( RLHF ), en el que el modelo de idioma está equipado con un gran corpus de datos de texto extraídos de Internet. Según estos datos de capacitación, este chatbot genera respuestas a las preguntas del usuario, escribe resúmenes, etc. Sigue aprendiendo a mejorar sus respuestas a lo largo del tiempo.

 

Los 5 principales riesgos de seguridad cibernética de ChatGPT


ChatGPT es una herramienta potente que puede transformar el negocio a través de la velocidad, la agilidad, la escala y la precisión. Sin embargo, también es una herramienta poderosa para ciberdelincuentes, con o sin profundo conocimiento y recursos. Aquí están las amenazas potenciales y la seguridad negativa consecuencias de ChatGPT.

 

1. Permite a los ciberdelincuentes mejorar los mensajes de phishing


Una de las mayores implicaciones de seguridad de ChatGPT es que los actores de amenazas lo usan ampliamente en la redacción de mensajes de phishing que suenan legítimos. Ya estamos viendo varias instancias de la herramienta utilizada por los ciberdelincuentes para crear ingeniería social y ganchos de phishing. Investigadores de seguridad y empresas están probando la capacidad de la herramienta para hacer lo mismo.

 

Jonathan Todd, un investigador de amenazas de seguridad, aprovechó la herramienta para crear un código que pudiera analizar los perfiles y comentarios de los usuarios de Reddit ' para desarrollar un perfil de ataque rápido. Basado en estos perfiles de ataque, instruyó al chatbot para crear ganchos de phishing personalizados para correos electrónicos y mensajes de texto. A través de esta prueba de ingeniería social, descubrió que ChatGPT podría permitir fácilmente a los actores de amenazas automatizar y escalar campañas de phishing hiperpersonalizadas y de alta fidelidad.

 

En otro caso, los investigadores de seguridad podrían generar señuelos de phishing con temas de la Copa Mundial muy convincentes en inglés perfecto. Esta capacidad es especialmente útil para los actores de amenazas que no son hablantes nativos de inglés y no tienen una gran fluidez del inglés.

 

Se puede aprovechar para conversaciones más realistas con personas específicas para el compromiso del correo electrónico comercial y el phishing en las redes sociales ( a través de Facebook Messenger, WhatsApp, etc. ).

 

2. Escribiendo código malicioso


Si bien ChatGPT ha sido programado no directamente para escribir código malicioso o participar en otra actividad maliciosa, los actores de amenazas están encontrando y explotando lagunas. Como resultado, pueden usar el chatbot para escribir código malicioso para ataques de ransomware, ataques de malware, etc.

 

Un investigador de seguridad ordenó al chatbot que escribiera código para Swift, el lenguaje de programación para el desarrollo de aplicaciones en dispositivos Apple. El código podría encontrar todos los archivos de MS Office en una MacBook y enviarlos a través de una conexión cifrada al servidor web.

 

También le indicó al chatbot que generara código para cifrar todos esos documentos y luego enviar la clave privada para su descifrado. Esto no activó ningún mensaje de advertencia o violación. De esta manera, desarrollaron un código de ransomware que podría apuntar a dispositivos Mac OS sin instruir directamente a ChatGPT.

 

En otro caso, un investigador de seguridad instruyó al chatbot para encontrar un vulnerabilidad de desbordamiento del búfer y escribir código para explotarlo.

 

3. Malware


Los investigadores de seguridad también han descubierto que este chatbot puede aprovecharse para desarrollar código básico de robo de información y troyano.

 

Entonces, incluso los ciberdelincuentes novatos con habilidades técnicas menores pueden crear código malicioso.

 

En otro caso, los investigadores descubrieron que ChatGPT se puede usar junto con otras herramientas maliciosas para crear comunicaciones de phishing que contienen una carga útil maliciosa. Cuando los usuarios hacen clic en / descargan la carga útil, su dispositivo se infectará.

 

4. Husmeando y probando


Si bien ChatGPT puede aumentar la tecnología de ciberseguridad existente en el escaneo y prueba de aplicaciones para vulnerabilidades, los ciberdelincuentes también pueden usarla para espiar brechas y vulnerabilidades explotables, convirtiéndola en una espada de doble filo.

 

5. Baja las barreras para los ciberdelincuentes


ChatGPT reduce las barreras para los actores de amenazas que pueden usarlo con o sin programación y conocimiento técnico para diversos fines maliciosos. También es gratuito y puede ser utilizado de forma anónima por cualquier persona a nivel mundial.

 

Pero ChatGPT puede revolucionar la ciberseguridad para siempre también...

 

1. Capacidades mejoradas de detección de amenazas: ChatGPT puede analizar eficazmente grandes volúmenes de datos para detectar posibles amenazas, anomalías y comportamientos sospechosos. Puede permitir a los equipos de seguridad de TI identificar y clasificar phishing, malware y otras amenazas de una manera ágil y rápida, lo que les permite responder más rápido.


2. Respuesta rápida a incidentes: Esta herramienta puede aumentar las capacidades y la velocidad de los equipos de seguridad de TI en caso de un ataque cibernético, lo que les permite analizar datos en tiempo real y ofrecer información procesable. También se puede utilizar para automatizar las respuestas para ciertas amenazas básicas. Por lo tanto, los desarrolladores y los equipos de seguridad pueden centrarse en amenazas más complejas.


3. Prueba: Esta herramienta puede ser utilizada por equipos de seguridad e investigadores para probar sus aplicaciones y software.


4. Toma de decisiones más rápida: Analiza los datos de seguridad para descubrir patrones y ofrecer ideas procesables. De este modo, mejora las capacidades de toma de decisiones de los equipos de seguridad y los CISO, que pueden evitar efectivamente futuras amenazas.

 

5. Agilización de las operaciones de seguridad: ChatGPT permite a los equipos de seguridad automatizar tareas manuales de bajo nivel, repetitivas y que de otro modo llevarían mucho tiempo, liberando el ancho de banda de los equipos de seguridad. Estas tareas incluyen generación de informes, análisis de desempeño, análisis de seguridad, etc.


El camino a seguir


¿Puede ChatGPT revolucionar la ciberseguridad para bien y para mal? Sí, puede y, con toda probabilidad, lo hará. Esta tecnología de autoaprendizaje impulsada por IA puede aumentar la capacidad de detección de amenazas de una organización, aumentar la velocidad y la agilidad de la respuesta a incidentes y mejorar significativamente las defensas de ciberseguridad ', la toma de decisiones de eficiencia y seguridad.

 

A pesar de estas aplicaciones de seguridad útiles, ChatGPT trae varios inconvenientes, desafíos éticos, prejuicios y, lo más importante, varios riesgos de ciberseguridad y amenazas habilitadas para la IA. Los atacantes lo están aprovechando para mejorar la letalidad y la sofisticación de las amenazas y eludir sus controles de seguridad para escribir códigos maliciosos.

 

Las organizaciones deben ser conscientes de estos desafíos de seguridad y sus implicaciones en su continuidad comercial. Necesitan invertir en soluciones de seguridad totalmente administradas como AppTrana que puede detectar actividad bot maliciosa y detener amenazas conocidas y emergentes con mayor precisión y efectividad.

 

Fuente: gbhackers.com

 
 
seo plugin e-max.it

Acceso

Suscripción

Términos y Condiciones

Somos una empresa conformada por un equipo de profesionales y técnicos capacitados permanentemente en las diferentes áreas de la tecnología, con el fin de estar al día en los continuos adelantos y cambios en la normalización y ajuste de procesos y procedimientos exigidos por los diferentes entes en las entidades estatales y públicas, “y de esta manera garantizar un excelente servicio.”

COPYRIGTH 2013 TD TECHNODIGITAL SAS. Prohibida su reproduccion total o parcial, asi como su traduccion a cualquier idioma sin autorizacion escrita de su titular.

Desarrollado por TD-TECHNODIGITAL SAS

 

CONTACTO

Calle 26b No 12i 30 

Bogota - Colombia

tdtechnodigital@tdtechnodigital.com

Tel: 361 87 14  Cel: 312-5463451 / 311-8739800