ChatGPT, l’intelligence artificielle qui multiplie et perfectionne la cybercriminalité

Security Awareness
27 janvier 2023
chat-gpt-open-ai

Une culture de la conscience d’entreprise et de l’apprentissage tout au long de la vie de plus en plus cruciale

Il était une fois des journalistes, des écrivains, des rédacteurs de textes et de contenus divers. Il s’agissait d’êtres humains, qui exprimaient parfois un talent particulier dans l’utilisation de l’écrit, mais la plupart du temps, ils avaient étudié et passé des années à se former pour apprendre une technique qui les rendait particulièrement aptes à raconter et à transformer habilement des concepts et des connaissances sous une forme accessible à tous.

Aujourd’hui, avec l’arrivée de ChatGPT, c’est à leur tour de disparaître dans le tourbillon technologique très rapide qui engloutit depuis quelques années une grande partie des connaissances et des métiers.

Ce qui résulte de ce nouveau chatbot développé par la société de recherche sur l’intelligence artificielle OpenAI et publié le 30 novembre 2022 donne, en fait, un véritable camouflet à ceux qui pensaient avoir en main une connaissance et une compétence qu’aucune machine ne pourrait jamais remplacer.

Au lieu de cela, depuis l’arrivée de cette application, d’ailleurs totalement gratuite, on peut dire que ce dernier tabou est également tombé.

ChatGPT possède en effet de nombreuses fonctionnalités et une extrême adaptabilité. Il peut écrire des textes de différents types, dans un large éventail de styles, de sujets et de langues. Il permet également de générer des résumés d’actualités, des descriptions de produits ou d’articles, de faire des recommandations, de rédiger des courriers électroniques, de répondre à des questions, de traduire des langues et de résoudre des équations mathématiques.

Chat GPT est formé à partir d’une grande base de données d’informations tirées d’Internet et dispose d’une interface de conversation qui lui permet de répondre à des questions, de rejeter certaines demandes et même de reconnaître un dysfonctionnement ou une erreur. Il écrit de meilleures dissertations que l’étudiant moyen de lycée ou de l’université et semble même être capable d’expliquer la physique quantique à un enfant de six ans, écrire des poèmes, créer un plan alimentaire personnalisé.

C’est vrai, il existe déjà des chatbots qui sont utilisés par exemple pour le service client mais la différence avec ChatGPT est substantielle car la plupart des chatbots ne prévoient qu’une petite sélection de réponses automatiques préprogrammées. ChatGPT peut répondre directement à une question et très bien s’adapter à la conversation, comme le ferait un être humain.

Et le plus beau dans tout cela, si l’on peut parler de beauté, est que plus vous l’utiliserez, plus vous affinerez son intelligence et ses capacités d’interaction.

Il y a 10 ans déjà sortait au cinéma le film Her, dans lequel l’acteur Joaquin Phoenix jouait un homme qui tombait amoureux de la voix d’un ordinateur après avoir passé de nombreuses heures et jours à converser avec elle.

À l’époque, cela semblait plausible, mais très futuriste. Au lieu de cela, nous sommes ici en train de parler à quelque chose qui est difficile à définir et qui peut prendre la forme d’un ordinateur ou d’un téléphone, mais qui écrit, et donc traite des pensées, comme un être humain

Pour ceux qui ont des doutes, il existe de vraies conversations en ligne avec ce programme, comme celle d’Eugenio Miccoli de la chaîne Mepiù qui interview le Chat sur lui-même. Ça vaut vraiment le coup de l’écouter.

L’application connaît déjà un énorme succès, à tel point qu’en seulement cinq jours après son lancement, elle comptait un million d’utilisateurs. Il a fallu 2 ans à Twitter pour y parvenir.

Bien sûr, l’utilité d’un tel outil est incontestable, mais quels sont les risques et les conséquences négatives qui pourraient résulter de l’utilisation de cette technologie ? Et à quel point les criminels peuvent-ils tirer profit du réseau ?

Beaucoup, si l’on pense que le programme peut facilement faire gratuitement tout ce qu’un hacker humain devrait faire pour attirer ses victimes, comme écrire des courriels d’hameçonnage, inventant des histoires toujours différentes.

En d’autres termes, même en limitant la discussion à la capacité de ChatGPT à produire du texte, ses possibilités pour les auteurs des menaces sont assez impressionnantes et vont probablement s’améliorer rapidement, avec l’augmentation de son utilisation.

En ce qui concerne l’hameçonnage, les agresseurs peuvent commencer à utiliser ChatGPT et des plateformes similaires pour générer des courriels très réalistes et bien écrits. Avec la disponibilité rapide de versions open source de la technologie, ceux qui disposent de compétences plus avancées et ont accès à des comptes de messagerie compromis seront en mesure de former leurs IA sur les communications volées d’une entreprise. Grâce au script et à l’automatisation, ils peuvent créer un nombre infini de communications personnalisées produites en série, capables d’apprendre en temps réel ce qui fonctionne et ce qui ne fonctionne pas et de se restructurer en conséquence.

Les courriels d’hameçonnage produits par ChatGPT sont de bien meilleure qualité que la plupart des courriels que les hackers génèrent aujourd’hui et qui sont généralement reconnaissables par leurs erreurs de grammaire ou de ponctuation.

De plus, ChatGPT ne se limite pas à l’anglais. Il semble connaître environ 20 langues, dont le russe, le chinois, le coréen. Cela signifie que, par exemple, un hacker chinois peut utiliser sa langue maternelle pour expliquer ce dont il a besoin et demander à ChatGPT d’envoyer le courriel en anglais.

Sans parler des dommages qu’un tel outil peut causer aux entreprises par le biais de diverses atteintes à leur réputation : faux articles de presse, faux communiqués de presse, fausses évaluations de clients, faux articles de blog, etc. Cela existe déjà aujourd’hui, mais la création d’un texte de haute qualité demande du temps et de l’argent. ChatGPT permettra aux agresseurs de produire une variété de communications, dans tous les styles, pour créer n’importe quel récit.

Et ce ne sont pas seulement les courriels d’hameçonnage qui deviendront indiscernables des courriels authentiques, mais également des sites Internet entiers. Les faux sites peuvent en effet être utilisés pour collecter des informations d’identification auprès des visiteurs, diffuser des informations erronées ou fournir un support pour une fausse identité.

En bref, malgré les opportunités qu’il réserve, ChatGPT ouvre certainement la porte à de nouvelles et infinies façons de commettre des crimes en ligne, devant lesquelles nous ne pouvons être pris au dépourvu.

La prise de conscience des risques peut faire la différence

Pour cela, une culture de sensibilisation de l’entreprise sera de plus en plus cruciale, tout comme la formation continue.

Aujourd’hui, il ne suffit plus de reconnaître les courriels mal écrits pour comprendre qu’on est en présence d’un escroc, mais il est nécessaire d’évoluer ensemble en apprenant à connaître tous les dangers du cybermonde et les astuces utilisées par les pirates. En outre, il ne suffit plus d’étudier la théorie de la cybersécurité, mais il faut la pratiquer, en s’exerçant continuellement aux techniques de défense et aux mises à jour constantes dont elles doivent tenir compte.

Articles connexes

Rapport Clusit 2024 : données préoccupantes

Rapport Clusit 2024 : données préoccupantes

En Italie, l'industrie manufacturière est visée, mais les attaques contre les soins de santé augmentent de 83 % par rapport au premier semestre 2023. La centralité du facteur humain. Aucune bonne nouvelle ne vient du front cybernétique. Au contraire, la guerre (car...

lire plus