Selon les conclusions de SlashNext, un nouvel outil cybercriminel d’IA générative appelé WormGPT a été présenté sur des forums clandestins comme un moyen pour les adversaires de lancer des attaques sophistiquées d’hameçonnage et de compromission des courriels d’entreprise.
Dans les mains d’un acteur malveillant, des outils comme WormGPT pourraient constituer une arme puissante, d’autant plus qu’OpenAI ChatGPT et Google Bard prennent de plus en plus de mesures pour lutter contre l’utilisation abusive de grands modèles de langage pour fabriquer des courriels d’hameçonnage convaincants et générer du code malveillant.
Le fait que WormGPT fonctionne sans aucune limite éthique souligne la menace que représente l’IA générative, qui permet même à des cybercriminels novices de lancer des attaques rapidement et à grande échelle sans avoir les moyens techniques de le faire.
Pour aggraver les choses, des menaces modernes font la promotion de «Jailbreaks» pour ChatGPT, en créant des invites et des entrées spécialisées conçues pour manipuler l’outil afin qu’il génère des résultats qui pourraient impliquer la divulgation d’informations sensibles, la production de contenu inapproprié et l’exécution de code nuisible.
«L’IA générative peut créer des courriels avec une grammaire impeccable, les faisant paraître légitimes et réduisant la probabilité d’être signalés comme suspects», a déclaré M. Kelley.
«L’utilisation de l’IA générative démocratise l’exécution d’attaques BEC sophistiquées. Même les attaquants ayant des compétences limitées peuvent utiliser cette technologie, ce qui en fait un outil accessible à un plus grand nombre de cybercriminels.»
