X prend des mesures drastiques pour lutter contre les deepfakes de Taylor Swift et bloque toutes les recherches autour de la pop star

X, propriété d'Elon Musk, a une nouvelle façon de lutter contre les deepfakes, qui a été déclenchée par une multitude de nouvelles vidéos et photos générées par l'IA mettant en vedette Taylor Swift. La plateforme bloque tous les résultats de recherche sur Swift, dans le but de supprimer le contenu NSFW généré par l'IA.

Les recherches de Taylor Swift sur la plateforme X d'Elon Musk ont ​​été temporairement bloquées après que de fausses images sexuellement explicites de la pop star ont fait surface et se sont largement répandues sur la plateforme.

L’incident met en lumière les défis actuels auxquels sont confrontées les plateformes de médias sociaux dans la lutte contre les deepfakes – des images et des sons réalistes générés à l’aide de l’intelligence artificielle, souvent utilisés pour représenter des personnalités publiques dans des situations compromettantes sans leur consentement.

Les tentatives de recherche de termes tels que « Taylor Swift » ou « Taylor AI » sur X ont abouti à un message d'erreur au cours du week-end. Cette mesure vise à restreindre l’accès aux contenus explicites générés par l’IA impliquant le célèbre chanteur. Joe Benarroch, responsable des opérations commerciales chez X, a déclaré que cette mesure est temporaire et prise avec beaucoup de prudence pour donner la priorité à la sécurité.

Articles Liés

Taylor Swift Deepfakes : les États-Unis vont proposer des changements massifs dans la manière dont les entreprises d'IA déclarent les tests de sécurité

X est idéal pour les créateurs ? MrBeast a gagné plus de 250 000 $ avec sa première vidéo en une semaine, mais il y a un piège

Elon Musk a notamment acquis X pour 44 milliards de dollars en octobre 2022, et depuis lors, il aurait réduit les ressources consacrées à la modération du contenu, invoquant son engagement en faveur des idéaux de liberté d'expression.

L’incident met en évidence le défi plus large auquel sont confrontées des plateformes telles que X, Meta, TikTok et YouTube dans la lutte contre les abus de technologies de deepfake de plus en plus réalistes et facilement accessibles. Les outils disponibles sur le marché permettent désormais aux individus de créer des vidéos ou des images ressemblant à des célébrités ou des hommes politiques en quelques clics seulement.

Bien que la technologie deepfake soit disponible depuis des années, les progrès récents de l’IA générative ont rendu ces images plus réalistes et plus faciles à produire. Les experts expriment leurs inquiétudes quant à la montée des deepfakes dans les campagnes de désinformation politique et à l’utilisation alarmante de faux contenus explicites.

En réponse à la circulation de fausses images, la secrétaire de presse de la Maison Blanche, Karine Jean-Pierre, a souligné l'importance pour les sociétés de médias sociaux de faire respecter leurs propres règles et a exhorté le Congrès à légiférer en la matière.

Vendredi, le compte officiel de sécurité de X a déclaré une « politique de tolérance zéro » envers les « images de nudité non consensuelle (NCN) » et a assuré la suppression active des images identifiées ainsi que des actions appropriées contre les comptes responsables. Cependant, l'épuisement des ressources de modération du contenu a empêché X d'empêcher la visualisation généralisée des fausses images Swift avant leur suppression, ce qui a incité la plateforme à prendre la mesure drastique de bloquer les recherches de la star mondiale.

Un rapport indique que ces images proviennent de plateformes anonymes comme 4chan et d'un groupe Telegram dédié au partage d'images abusives de femmes générées par l'IA. Telegram et Microsoft, le fournisseur présumé d'outils, n'ont pas encore répondu aux demandes de commentaires. L’incident ajoute de l’urgence aux discussions autour de la réglementation de la technologie deepfake et de ses conséquences potentielles.

(Avec la contribution des agences)