Posté le février 8, 2023 à 7:05
LES HACKERS CONTOURNENT LES RESTRICTIONS DE CHATGPT POUR CRÉER DES LOGICIELS MALVEILLANTS
ChatGPT est un concept qui fait fureur sur Internet. Le chatbot créé par OpenAI est devenu le logiciel dont la croissance est la plus rapide. Cependant, cette popularité croissante a également attiré les acteurs de la menace qui cherchent désormais à contourner les restrictions de l’outil d’intelligence artificielle (IA). Les cybercriminels utilisent l’outil pour apporter des améliorations générées par l’IA au code des logiciels malveillants ou aux e-mails utilisés pour lancer des campagnes de phishing.
Les hackers contournent les restrictions de ChatGPT
CheckPoint, l’une des principales entreprises de cybersécurité, a publié en début de semaine un billet de blog indiquant que des chercheurs avaient détecté des cybercriminels utilisant le chatbot pour améliorer le code d’un outil malveillant connu sous le nom d’InfoStealer.
Les résultats de cette recherche ont été repris par Ars Technica, qui a publié un rapport le 9 février indiquant que l’interface de programmation d’application (API) d’un modèle OpenAI GPT-3 surnommé text-davinci-003 était utilisé par les acteurs de la menace à la place de ChatGPT. Les hackers utilisaient l’API pour contourner les restrictions de sécurité.
« La version actuelle de l’API d’OpenAI est utilisée par des applications externes (par exemple, l’intégration du modèle GPT-3 d’OpenAI aux chaînes Telegram) et comporte très peu de mesures anti-abus, voire aucune, en place », ont déclaré les chercheurs de CheckPoint.
Les chercheurs ont ensuite expliqué la technique utilisée par les acteurs de la menace pour soutenir la création de contenus malveillants, tels que des e-mails utilisés pour lancer des e-mails de phishing et créer du code de logiciel malveillant. Les chercheurs ont noté que les hackers utilisaient cette technique parce qu’elle ne comportait pas les limitations et les barrières que ChatGPT avait imposées à l’interface utilisateur, ce qui leur permettait d’utiliser plus facilement l’outil pour des campagnes malveillantes.
Un utilisateur d’un forum de piratage clandestin vend un service pour une version modifiée du chatbot. L’utilisateur combine l’API avec la plateforme de messagerie Telegram. Ainsi, les parties intéressées peuvent poser toutes les questions qu’elles souhaitent au chatbot sans être bloquées par les restrictions mises en place par OpenAI.
L’utilisateur semble gagner de l’argent en vendant ce service. Il vend les 20 premières questions gratuitement aux autres utilisateurs. Cependant, toute question supplémentaire est vendue à 5,50 $ pour 100 questions.
Outre cet utilisateur, un autre cybercriminel est en train de créer un script basé sur l’API d’OpenAI qui contourne les restrictions imposées pour empêcher l’utilisation abusive du chatbot. Les actions des acteurs de la menace montrent que si la popularité de ChatGPT est une étape importante pour l’industrie de l’IA, elle montre que les hackers peuvent également profiter de la capacité du chatbot pour faire avancer leurs actions.
« Nous constatons que les cybercriminels continuent d’explorer comment utiliser ChatGPT pour leurs besoins de développement de logiciels malveillants et de création d’e-mails de phishing. Au fur et à mesure que les contrôles mis en place par ChatGPT s’améliorent, les cybercriminels trouvent de nouveaux moyens abusifs d’utiliser les modèles OpenAI – cette fois en utilisant leur API », indique le rapport.
Le rapport d’Ars Technical indique que des chercheurs ont contacté OpenAI pour demander à l’entreprise technologique si elle était au courant de l’utilisation abusive de l’API ChatGPT par des cybercriminels. Cependant, l’entreprise n’a pas encore répondu à ces conclusions. En outre, elle n’a pas encore publié d’avis sur la manière dont elle prévoit de garantir que le chatbot reste sûr et exempt d’abus, compte tenu de sa popularité croissante.
OpenAI reçoit un investissement considérable de Microsoft
Le potentiel d’OpenAI captive les internautes et les géants technologiques qui ne veulent pas rester à la traîne de ce qui est considéré comme la prochaine grande nouveauté dans l’évolution de la technologie. En janvier, Microsoft a annoncé qu’il poursuivrait son partenariat avec OpenAI. Le géant de la technologie a également investi environ 10 milliards de dollars dans l’entreprise.
Microsoft est aussi en première ligne pour adopter ChatGPT dans certains de ses produits. Le géant technologique a annoncé que le chatbot serait intégré dans le moteur de recherche Microsoft Bing et le navigateur Edge. La société a noté que l’intégration de ChatGPT favoriserait l’expérience des utilisateurs sur la plateforme.
Google a l’intention de concurrencer Microsoft dans le domaine de l’intelligence artificielle. Le géant technologique a indiqué qu’il allait lancer le chatbot Bard qui rivaliserait avec ChatGPT. Cependant, le lancement ne s’est pas déroulé sans heurts, le chatbot ayant commis une erreur en répondant à l’une des requêtes. Cela a suscité des inquiétudes quant à la possibilité que Google ait précipité le lancement de son chatbot.
