Sur TikTok, une publicité a récemment attiré l’attention des utilisateurs. Dans cette annonce, MrBeast, de son vrai nom Jimmy Donaldson, semblait offrir une affaire incroyable : 10 000 iPhone 15 Pro pour seulement 2$ pièce. Cependant, il s’est avéré que cette offre était trop belle pour être vraie.
“C’est un problème sérieux.”
Quelques jours après la mise en ligne de la promotion, le véritable Jimmy Donaldson a pris la parole sur la plateforme X pour informer les spectateurs qu’il n’était pas à l’origine de cette publicité. Le personnage visible dans la vidéo n’était rien d’autre qu’un deepfake généré par IA, conçu pour ressembler au créateur âgé de 25 ans. “Beaucoup de gens reçoivent cette publicité frauduleuse de moi… Les plateformes de médias sociaux sont-elles prêtes à gérer la montée des deepfakes IA ?” a écrit Donaldson, soulignant que “C’est un problème sérieux.”
Bien que Donaldson soit connu pour ses généreux cadeaux, plusieurs utilisateurs de TikTok ont rapidement détecté la nature trompeuse de la publicité. La version deepfake de MrBeast ne semblait pas tout à fait correcte, notamment au niveau de la synchronisation labiale.
Les deepfakes de personnalités publiques sont interdits sur TikTok. La publicité a été retirée quelques heures seulement après sa mise en ligne. Cependant, la question demeure : comment a-t-elle pu échapper à l’équipe de modération ? TechCrunch a suggéré que le personnage généré par IA aurait pu tromper la technologie assistée par IA que TikTok utilise pour évaluer les publicités avant leur diffusion.
TikTok n’est pas la seule plateforme à lutter contre les deepfakes. Malgré des interdictions généralisées, des acteurs malveillants continuent de tromper le public avec des représentations falsifiées de célébrités. Récemment, d’autres personnalités comme Gayle King et Tom Hanks ont également été imitées par des deepfakes.
Lots of people are getting this deepfake scam ad of me… are social media platforms ready to handle the rise of AI deepfakes? This is a serious problem pic.twitter.com/llkhxswQSw
— MrBeast (@MrBeast) October 3, 2023
Face à cette situation, que peuvent faire les équipes de modération ? En réponse à l’appel de MrBeast sur TikTok, le créateur Kwebbelkop (de son vrai nom Jordi van den Bussche) a proposé quelques idées. Selon lui, des outils de reconnaissance faciale, des filigranes cachés et des sanctions plus sévères pourraient aider à résoudre le problème.
Il convient de rappeler que la technologie deepfake a récemment été utilisée de manière humoristique pour mettre en scène le président de la République, Emmanuel Macron, et le célèbre youtubeur Squeezie. Cette utilisation, bien que divertissante, souligne l’importance de rester vigilant face à la propagation de contenus générés par deepfake, même s’ils sont destinés à divertir.
