C’est une arnaque d’un nouveau genre, dont il va falloir apprendre à se méfier. Florent Pagny a poussé un coup de gueule dans une vidéo partagée ce lundi sur son compte Instagram, après avoir été victime d’une escroquerie connue sous le nom de “deepfake (nouvelle fenêtre)“. Pour ceux qui l’ignorent, il s’agit d’un enregistrement vidéo (ou audio) réalisé ou modifié grâce à l’intelligence artificielle, qui permet de faire dire à des personnes des choses qu’ils n’ont jamais dites. Plus en détails, l’artiste a été alerté par la fille d’une fan qui a été piégée. Il y a quelque temps, une vidéo dans laquelle le chanteur s’adresse à cette dernière pour lui soutirer de l’argent a atterri dans sa messagerie, sur le réseau social Facebook.  “Bonjour Catherine, je fais cette petite vidéo pour t’informer que c’est bel et bien moi (…). Et je fais cette vidéo pour te rassurer sur mon identité“, déclare l’artiste dans cette séquence, dans laquelle son image a été détournée.

Le réalisme de ces vidéos truquées grâce à l’IA de plus en plus bluffant, suscite des inquiétudes. D’autant qu’à ce jour, il n’existe aucune application permettant de savoir si un contenu est authentique ou inventé de toute pièce. “La technologie s’améliorant, le deepfake va être de plus en plus réussi et donc, de plus en plus difficile à détecter”, prévient dans le reportage en tête de cet article l’experte en cybersécurité Corinne Henin. Dans ce contexte, “c’est surtout l’esprit qu’il faut développer, plus que la technologie”, ajoute-t-elle.

Des vidéos de plus en plus réalistes

“C’est ma voix, c’est moi qui parle, mais je n’ai jamais filmé ça”, assure Florent Pagny dans sa publication sur son compte Instagram. “Mais avec l’intelligence artificielle, ils sont capables de faire ça. Ce sont des ordures. C’est par le biais de Facebook qu’ils vont chercher des gens un peu plus naïfs et faibles qui ne maîtrisent pas cette manière de communiquer”, dénonce-t-il.

Les auteurs de ce contenu frauduleux ont en fait utilisé des technologies d’IA pour truquer une vidéo datant de 2022, dans laquelle le chanteur annonçait son cancer. Les mouvements des lèvres ont été modifiés pour correspondre aux propos que lui prêtent les pirates informatiques. Sa voix est plus robotique et il y a aussi quelques fautes de français, mais l’illusion fonctionne malgré tout.

Lire aussi

Quand un deepfake lance une rumeur sur un projet d’assassinat d’Emmanuel Macron en Ukraine

Avant le chanteur, la chaîne TF1 et l’humoriste Cyprien Iov ont également été victimes de deepfake, avec la diffusion d’un faux reportage faisant la promotion d’une application pour des jeux d’argent.

Plus tôt dans l’année, une arnaque par deepfake a coûté la somme 26 millions de dollars à une entreprise d’Hong Kong. Un employé avait reçu des appels par vidéoconférence de quelqu’un se faisant passer pour le directeur financier de l’entreprise lui demandant de transférer de l’argent vers des comptes bancaires désignés. Un haut responsable de la police locale avait déclaré que la vidéoconférence impliquait plusieurs participants, mais que tous, à l’exception de la victime, étaient des “fake”. En France, un auteur de deepfake risque une peine de deux ans d’emprisonnement et jusqu’à 45.000 euros d’amende.