X inondé de fausses images explicites de Taylor Swift générées par IA !

La recherche « Taylor Swift AI » a explosé en Top Trending sur X au cours des dernières heures. À la base de cet engouement soudain se trouvent de trolls qui ont partagé des images explicites générées par IA de la pop-star.

Crédit Golden Globes 2024
Crédit Golden Globes 2024

Zoom sur ce nouveau badbuzz de X qui tire une fois de plus la sonnette d’alarme par rapport à l’intelligence artificielle.

Des spams de fans en soutien à la chanteuse

Des images sexuellement explicites de Taylor Swift générées par l’IA ont circulé sur X (anciennement Twitter) pendant la journée écoulée. Au total, elles auraient été vues plus de 45 millions de fois avant que leur post d’origine ne soit supprimé.

Après près de 24 000 reposts, des centaines de milliers de likes et d’enregistrements privés, l’utilisateur les ayant partagées a retrouvé son compte suspendu. Cependant, le mal était fait après que le message soit resté en ligne sur la plateforme pendant environ 17 heures.

Il s’agit du dernier exemple en date de la prolifération de pornographie générée par IA et de leur diffusion.

La fanbase de Taylor Swift n’a pas hésité à spammer le réseau social de fausses images explicitent pour protéger leur idole. Les fans ont inondé les hashtags utilisés pour limiter la visibilité des deepfakes mis en cause.

Selon un rapport de 404 Media, les images pourraient provenir d’un groupe sur Telegram. Les membres se partageraient des images explicites de femmes générées par l’IA, souvent réalisées à l’aide de Microsoft Designer.

À LIRE AUSSI : Le nouvel album de Taylor Swift a battu trois records du monde sur Spotify

Taylor Swift considère une action en justice

Pour l’instant, ni X ni les représentants de Swift ou de la NFL n’ont fait de commentaires. Une source proche de Swift s’est exprimée en déclarant : « La décision d’intenter ou non une action en justice est en cours d’évaluation, mais une chose est claire : ces fausses images générées par l’IA sont abusives, offensantes, exploitantes et réalisées sans le consentement et/ou la connaissance de Taylor. ».

https://x.com/PopBase/status/1750598910324973732?s=20

Cet incident illustre le défi très réel que représente l’accès aux logiciels de deepfake porn. Bien que certains générateurs d’images par IA restreignent la production de ce genre d’images, beaucoup d’autres demeurent vagues à propos.

Une part de la responsabilité d’empêcher la diffusion de fausses images incombe aussi aux plateformes sociales. Toutefois, quand elles sont vidées de leurs modérateurs humains comme c’est le cas de X, la tâche est beaucoup plus compliquée.

L’entreprise fait d’ailleurs actuellement l’objet d’une enquête de l’Union européenne. Il semblerait que X serait utilisée pour « diffuser des contenus illégaux et de la désinformation ». Des responsables auraient été interrogés sur ses protocoles de crise suite à la diffusion d’informations erronées sur la guerre Israël-Hamas.

Source : Daily Mail

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.