FraudGPT, le chatbot de l’arnaque qui sévit sur le darknet

FraudGPT est un chatbot non modéré qui se propage sur le darknet et qui est utilisé par des criminels pour écrire des emails de phishing et développer des malwares. Ce logiciel a été découvert par l’équipe de recherche de Netenrich, une entreprise spécialisée dans la cybersécurité.

“La montée en puissance des modèles d’IA génératifs a radicalement changé le paysage des menaces”, déclare Rakesh Krishnan, chercheur chez Netenrich. Selon lui, FraudGPT est accessible depuis au moins le 22 juillet 2023 sur des forums et des chaînes Telegram du darknet. FraudGPT utilise l’IA pour aider les cybercriminels à trouver les meilleures cibles avec les victimes les plus faciles. Il leur fournit également des textes persuasifs pour les inciter à cliquer sur des liens malveillants ou à divulguer leurs informations personnelles ou bancaires. Il peut même créer des outils de cracking ou de falsification de cartes de crédit.

FraudGPT est vendu sur plusieurs marketplaces du darknet, selon Netenrich. Le développeur, qui se fait appeler “CanadianKingpin”, facture 200 dollars par mois pour accéder au service, mais propose des réductions pour des abonnements de trois ou six mois. Un accès de douze mois à FraudGPT coûte 1 700 dollars. Le développeur semble être un habitué de la scène, affirmant avoir déjà réalisé plus de 3 000 ventes sur des plateformes souterraines.

FraudGPT n’est pas le seul exemple d’utilisation criminelle de l’IA. Récemment, un autre logiciel nommé WormGPT a été lancé. Il s’agit d’un modèle linguistique entraîné ou affiné sur des données malveillantes. Ces modèles, comme ChatGPT, peuvent être instruits simplement par la conversation, ce qui abaisse la barrière d’entrée pour les cybercriminels. Même ceux qui sont moins doués en technologie ou en rédaction peuvent générer des malwares ou écrire des emails de phishing.

Les opérateurs de chatbots comme Claude, ChatGPT ou Bard font tout leur possible pour empêcher leur technologie d’être utilisée à des fins malveillantes. Ils répondent constamment aux nouvelles tactiques visant à tromper l’IA pour qu’elle produise du code malveillant ou des emails de phishing, par exemple. Mais cela ne concerne que les fournisseurs commerciaux. Avec l’avènement de modèles open-source de plus en plus puissants, il semble que l’utilisation criminelle de l’IA soit difficilement contrôlable.

---

Mes livres

Le Basilic de Roko	Mon parcours de rédacteur web	Science corrompue et servile	Nous, Tueurs en série