ChatGPT, la inteligencia artificial que multiplica y perfecciona la ciberdelincuencia

Security Awareness
27 enero 2023
chat-gpt-open-ai

Cada vez son más determinantes la cultura de la concienciación empresarial y la formación permanente

En su día, existían periodistas, escritores y redactores de textos y contenidos de diversa índole. Eran personas que, aunque veces mostraban un talento particular para usar la palabra escrita, casi siempre habían estudiado y dedicado años a formarse para aprender una técnica que les permitiera ser particularmente capaces de contar y transformar hábilmente conceptos e información de forma inteligible para todo el mundo.

Hoy, con la llegada de ChatGPT, están abocados a desaparecer por la rapidísima vorágine tecnológica que desde hace algunos años viene engullendo muchísimos conocimientos y profesiones.

Lo que este nuevo chatbot desarrollado por la empresa de investigación sobre inteligencia artificial OpenAI y lanzado el 30 de noviembre de 2022 ofrece es, de hecho, un verdadero revés para quienes pensaban que poseían un conocimiento y una habilidad que ninguna máquina podría reemplazar.

Por el contrario, desde la entrada en escena de esta aplicación que, además, es totalmente gratuita, se puede decir que este último tabú también se ha venido abajo.

De hecho, ChatGPT tiene muchas funciones y una extrema adaptabilidad. Puede escribir textos de varios tipos en una amplia gama de estilos, temas e idiomas. Además, permite generar resúmenes de noticias, descripciones de productos o historias, hacer recomendaciones, escribir correos electrónicos, responder preguntas, traducir idiomas y resolver ecuaciones matemáticas.

ChatGPT se entrena a través de una amplia base de datos de información sacada de Internet y presenta una interfaz de conversación que le permite responder preguntas, rechazar determinadas peticiones e incluso reconocer cuándo ha funcionado mal o cometido algún error. Escribe mejores ensayos que el estudiante medio de secundaria o de la universidad y parece que hasta puede explicar física cuántica a un niño de seis años, escribir poesía o crear un plan alimentario personalizado.

Si bien es cierto que ya hay chatbots que se utilizan, por ejemplo, en los servicios de atención al cliente, ChatGPT es muy diferente, ya que la mayor parte de los chatbots solo contempla una pequeña selección de respuestas automáticas preprogramadas, mientras que ChatGPT puede responder directamente a una pregunta y adaptarse mucho a la conversación,tal y como lo haría una persona.

Lo bueno es, por decir algo, que cuanto más se utilice más afinará su inteligencia y sus capacidades de interlocución.

Hace 10 años se estrenó la película Her, en la que el actor Joaquin Phoenix interpretaba a un hombre que se enamoraba de la voz de un ordenador después de pasar muchas horas y días conversando con ella.

Parecía algo que podría ser posible, pero en un futuro muy lejano. Sin embargo, aquí estamos, hablando con algo que es difícil de definir y que puede ser un ordenador o un teléfono, pero que escribe y, por tanto, procesa pensamientos, como las personas.

Para quienes tengan dudas, existen auténticas conversaciones en línea con este programa, como la de Eugenio Miccoli del canal Mepiù en la que entrevista al propio chat. Merece la pena escucharla.

La aplicación ya ha tenido un gran éxito, hasta el punto que en solo 5 días desde su lanzamiento registró 1 millón de usuarios. Twitter, sin embargo, tardó dos años en llegar a esa cifra.

Lógicamente, no cabe duda de la utilidad de una herramienta de este tipo, ¿pero qué riesgos y consecuencias negativas podría acarrear el uso de esta tecnología? ¿Hasta qué punto beneficiará a los ciberdelincuentes?

En gran medida, si pensamos que el programa puede hacer de forma fácil y gratuita todo lo que de otro modo tendría que hacer un pirata informático humano para atraer a sus víctimas, como, por ejemplo, escribir correos de «phishing», inventándose distintas historias una y otra vez.

En otras palabras, aunque nos limitemos a hablar de la capacidad de ChatGPT para generar texto, sus posibilidades para los delincuentes son bastante impresionantes y probablemente mejorarán rápidamente cuanto más se use.

En lo que respecta al «phishing», los atacantes pueden empezar a usar ChatGPT y plataformas similares para generar correos electrónicos individuales muy realistas y bien escritos. Por la rápida disponibilidad también de versiones de código abierto de la tecnología, quienes dispongan de competencias más avanzadas y tengan acceso a cuentas de correo electrónico comprometidas serán capaces de preparar a sus propias IA en relación con las comunicaciones robadas de una empresa. Con el «scripting» y la automatización, podrán crear una cantidad infinita de mensajes personalizados en serie capaz de averiguar en tiempo real qué funciona y qué no, y de adaptarse en consecuencia.

Los correos electrónicos de «phishing» producidos por ChatGPT tienen una calidad muy superior a la de la mayor parte de los correos electrónicos que los piratas informáticos generan hoy en día, los cuales, por lo general, se pueden reconocer por los errores gramaticales o de puntuación que contienen.

Además, ChatGPT no se limita al inglés. Al parecer, habla unos 20 idiomas, incluidos el ruso, el chino y el coreano. Esto supone que, por ejemplo, un pirata informático chino puede usar su lengua materna para explicar qué necesita y pedirle a ChatGPT que envíe el correo electrónico en inglés.

Por no hablar de los daños que una herramienta como esta puede causar a las empresas mediante distintos tipos de ataques a su reputación: artículos con noticias falsas, comunicados de prensa, reseñas de clientes, publicaciones de blogs y mucho más. Hoy en día ya existen, pero crear un texto de alta calidad requiere tiempo y dinero. ChatGPT permitirá a los atacantes producir una gran variedad de mensajes, con el estilo que sea, para impulsar cualquier narrativa.

Y no solo costará distinguir los correos electrónicos de «phishing» de los reales, sino también los sitios web al completo. De hecho, los sitios falsos se podrán usar para recopilar las credenciales de los visitantes, difundir información errónea o proporcionar asistencia para falsificar identidades.

En resumen, aparte de las oportunidades que ofrece, sin lugar a dudas ChatGPT abre la puerta a nuevas e infinitas formas de delinquir en línea, para las cuales debemos estar preparados.

Conocer los riesgos puede marcar la diferencia

Por ello, la cultura de la concienciación empresarial será cada vez más determinante, así como una formación permanente de preparación continua.

Hoy en día, ya no basta con ver que un correo electrónico está mal escrito para saber que procede de un estafador, sino que hay que evolucionar a la vez aprendiendo a reconocer todos los peligros del mundo cibernético y los trucos que los piratas informáticos emplean. Es más, ya no basta con estudiar la teoría de la ciberseguridad, sino que también hay que ponerla en práctica, ejercitándose continuamente en lo que respecta a las técnicas defensivas y las continuas actualizaciones que estas deben contemplar.

Suscríbete al boletín

Artículos relacionados