OpenAI a été obligé mardi, de fermer durant quelques heures ChatGPT suite à différents dysfonctionnements. Le robot conversationnel s’était mis à dévoiler des adresses mail, des numéros de téléphone et des historiques de conversations.
Après la grossière erreur commise par Google Bard en février, le CNET qui a utilisé l’IA créative afin de générer des messages explicatifs, la prétendue fermeture de Bard indiquée par Bing et maintenant cette divulgation de données par ChatGPT, on est en droit de se demander si dans cette course à l’IA, les grandes entreprises technologiques ne seraient pas en train de confondre vitesse et précipitation.
Fermeture temporaire de ChatGPT
Mardi dernier, plusieurs utilisateurs du célèbre bot ChatGPT ont fait le même constat. Ils ont vu apparaître dans la barre d’historique, située à gauche de leur écran, des titres de conversations provenant d’autres usagers. OpenAI a alors été contraint de fermer durant une bonne dizaine d’heures l’accès à sa plateforme pour éviter que des individus mal intentionnés n’exploitent ce bug.
Quelques heures après sa réouverture, des internautes ont voulu s’abonner à ChatGPT Plus, la version payante de l’IA. Et là, ils sont tombés sur des adresses mails et des numéros de téléphone qui étaient affichés directement sur l’interface de paiement. Après chaque rafraîchissement, une nouvelle adresse mail apparaissait.
Ajout de vérifications redondantes
OpenAI a expliqué que le premier bogue a provoqué ce second problème. Ce dernier a révélé potentiellement des informations liées au paiement de 1,2 % des abonnés ChatGPT Plus le 20 mars entre 1 h et 10 h PT. Ces données personnelles comprenaient leur prénom et leur nom, leur adresse e-mail, leur adresse de paiement, les quatre derniers chiffres (uniquement) du numéro de leur carte de crédit ainsi que sa date d’expiration.
La société de recherche sur l’intelligence artificielle a expliqué qu’un bogue dans la bibliothèque open source Redis était à l’origine de ces divulgations de données personnelles et de l’apparition de ces titres de chat d’autres utilisateurs. Heureusement, le problème a très vite été résolu et corrigé afin que les numéros de carte de crédit complets ne soient jamais exposés. Par mesure de sécurité, les victimes de ce bogue ont été contactées par OpenAI afin de les informer de cette fuite accidentelle. L’entreprise a également déclaré avoir « ajouté des vérifications redondantes pour s’assurer que les données renvoyées par notre cache Redis correspondent à l’utilisateur demandeur ».