YouTube s'attaque aux deepfakes dans les vidéos de vrais crimes

Tout sur l'intelligence artificielle

YouTube n'autorisera plus les contenus qui « simulent de manière réaliste » les récits de mineurs et d'autres victimes de crimes sur la façon dont ils sont morts ou sur les violences qu'ils ont subies. Ce changement fait partie de la mise à jour des politiques de la plateforme visant la cyberintimidation et le harcèlement.

Pour les pressés :

• YouTube a mis à jour ses politiques pour interdire les contenus qui « simulent de manière réaliste » les récits de mineurs et d'autres victimes de crimes sur la façon dont ils sont morts ou les violences qu'ils ont subies ;
• Le changement cible le contenu sur des crimes réels (« true crime ») dans lequel les deepfakes imitent les victimes (y compris les enfants), ce que les familles des victimes qualifient de « dégoûtant » ;
• La violation de la nouvelle politique entraînera la suppression du contenu et des restrictions temporaires sur les activités de la chaîne. Les pénalités augmentent en cas de violations répétées, ce qui peut conduire à la suppression de la chaîne ;
• Des plateformes telles que YouTube et TikTok ont ​​introduit des politiques concernant le contenu généré par l’IA, exigeant un étiquetage explicite de ce type de contenu afin d’éviter toute confusion parmi les utilisateurs.

La mise à jour semble cibler un sous-genre de véritable contenu lié au crime («vrai crime“) : deepfakes avec les récits des victimes sur les violences qu’elles ont subies. Certaines vidéos présentent des voix générées par l’intelligence artificielle (IA) similaires à celles des enfants. Les familles des victimes représentées dans les vidéos, entendues par The Mirror, ont qualifié le contenu de « dégoûtant ».

{{#values}} {{#ap}} {{/ap}} {{^ap}} {{/ap}} {{/values}}

En savoir plus:

C'est vrai crime sur YouTube : quels changements ?

(Image : AKorkmaz/Shutterstock)

La mise à jour de la politique de YouTube entraînera une pénalité qui supprimera le contenu de la chaîne et limitera temporairement ce que l'utilisateur peut faire sur la plateforme.

Un premier avertissement limite par exemple la possibilité aux utilisateurs de publier des vidéos pendant une semaine. Si la politique est à nouveau enfreinte dans les 90 jours, les sanctions augmentent, avec la possibilité éventuelle que YouTube supprime la chaîne de l'utilisateur.

Des plateformes – dont YouTube – ont dévoilé ces derniers mois des outils de création basés sur l’IA. Parallèlement à cela, de nouvelles politiques concernant le contenu créé avec une technologie susceptible de dérouter les utilisateurs ont été adoptées.

TikTok, par exemple, oblige désormais les créateurs à étiqueter le contenu généré par l'IA comme tel. Et YouTube lui-même a annoncé une politique stricte concernant les « clones » de voix de musiciens créés par l’IA – avec un autre ensemble de règles plus souples pour d’autres types de « clones ».