Le ChatGPT doit-il être considéré comme un problème de sécurité ?

Accueil · Blog IA · Nouvelles · Le ChatGPT doit-il être considéré comme un problème de sécurité ?

ChatGPT, le chatbot développé par OpenAI, est devenu l’un des outils préférés des internautes. Avec plus d’un million d’utilisateurs, ChatGPT a été utilisé pour générer des discours de mariage, des paroles de chansons, des essais universitaires et du code informatique. Toutefois, sa capacité à générer des textes et des conversations réalistes a suscité des inquiétudes dans le secteur de la cybersécurité, car elle peut être utilisée par des pirates informatiques sans ressources et sans compétences techniques.

ChatGPT et le secteur de l’éducation

L’univers de l’éducation a été l’un des premiers à s’inquiéter de ChatGPT. Une école de New York a interdit l’utilisation du chatbot par crainte qu’il ne soit utilisé pour tricher. Le problème est que les étudiants pourraient utiliser le chatbot pour générer des documents et des devoirs de manière automatisée, ce qui pourrait rendre difficile la détection du plagiat.

ChatGPT et le secteur de la publicité

Les copywriters, ou rédacteurs publicitaires, craignent que leur travail ne soit remplacé par le chatbot.

Le secteur de la publicité a également fait part de ses préoccupations concernant ChatGPT. Grâce à sa capacité à générer des textes et des conversations réalistes, ChatGPT pourrait être utilisé pour créer des publicités et des campagnes publicitaires automatisées, en quelques minutes, gratuitement ou infiniment moins cher qu’un rédacteur humain.

ChatGPT et Google

Google a également fait part de ses préoccupations concernant ChatGPT. L’entreprise aurait lancé une « alerte rouge » pour assurer la survie de son activité de recherche. Le problème est que ChatGPT pourrait être utilisé pour générer du contenu automatisé qui pourrait concurrencer le contenu généré par les utilisateurs.

ChatGPT et le secteur de la sécurité informatique

La société de sécurité israélienne Check Point a montré comment le chatbot pouvait générer un courriel de phishing capable de contenir une charge utile malveillante.

Le secteur de la cybersécurité a été l’un des plus critiques à l’égard de ChatGPT. Les experts en sécurité estiment que sa capacité à rédiger des courriels de phishing légitimes le rendra très attrayant pour les cybercriminels. Les escrocs pourraient utiliser ChatGPT pour créer des campagnes de phishing plus sophistiquées et plus convaincantes.

Le secteur s’est également inquiété de la capacité de ChatGPT à écrire des codes malveillants. Check Point a déclaré avoir été témoin d’au moins trois cas où des pirates sans compétences techniques ont montré comment ils avaient utilisé les capacités de ChatGPT à des fins malveillantes. Sur un forum, un pirate a montré un code écrit par ChatGPT qui aurait volé des fichiers intéressants, les aurait compressés et envoyés sur le web. Une autre utilisation observée était la création de scripts de logiciels malveillants pour des attaques de phishing.

Il est important de noter que ChatGPT n’est pas conçu pour créer ou promouvoir des contenus malveillants, mais les experts en sécurité ont souligné que sa capacité à générer des textes et des conversations réalistes pourrait être utilisée pour contourner les mesures de sécurité existantes et tromper les gens.

Comme toujours, l’usage que l’on fait d’un outil peut en faire un sauveur ou un méchant. La puissance de ChatGPT est indéniable, mais il vient tout juste de naître, il est donc possible que les développeurs soient capables d’améliorer sa compréhension pour détecter les intentions malveillantes de l’utilisateur. Qu’en pensez-vous ?

Source TechCrunch

Écrit par Miguel Ángel G.P.

IT Manager | Plus de 15 ans d'expérience en informatique d'entreprise. Expert en Apple, systèmes, réseaux, cloud, virtualisation, big data, web design...
Cet article parle de Nouvelles et Emploi, OpenAI, Sécurité.
Publié le 24 de janvier de 2023.

0 commentaires

Soumettre un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *