La menace des deepfakes : 1

Définition de Deepfake, algorithmes, cas réels et plus encore

Dans le monde d’aujourd’hui, l’intelligence artificielle (IA) est devenue un mot à la mode. Une grande partie de ce sujet a été évoqué avec l’avènement de ChatGPT au début de 2023. Depuis lors, des outils d’IA similaires ont vu le jour, notamment celui de Microsoft CoPilot, qui peut s’intégrer dans de nombreuses applications que vous pouvez obtenir dans votre abonnement M365. Bien que l’IA puisse être utilisée à des fins bonnes et productives, elle a également un « côté obscur ». C’est là que le cyberattaquant peut l’utiliser à des fins néfastes, comme la création de logiciels malveillants et d’une variante encore plus récente connue sous le nom de « Deepfake ».

Qu'est-ce qu'un deepfake ?

Un deepfake peut être techniquement défini comme suit :

« L'IA deepfake est un type d'intelligence artificielle utilisé pour créer des images, des audios et des vidéos convaincants. Le terme décrit à la fois la technologie et le faux contenu qui en résulte, et est un mot-valise entre deep learning et fake. » (Source 1)

Les publicités politiques que vous voyez pendant les périodes électorales en sont un bon exemple. Par exemple, en utilisant l'IA, il est facile de créer une imitation d'un politicien se présentant légitimement à une élection. Et étant donné la nature virale des médias numériques, cette vidéo ou image peut littéralement être envoyée à des millions de personnes en quelques secondes seulement. Mais les dégâts ne s'arrêtent pas là. Les deepfakes se présentent souvent sous la forme d'une vidéo et sont principalement téléchargés sur YouTube. À partir de là, l'usurpateur vous demandera de faire un don d'argent pour soutenir ses efforts électoraux. Mais au lieu de cela, si vous envoyez de l'argent, il sera très probablement envoyé sur un faux compte offshore. Le pire dans tout ça, c’est qu’une fois que vous l’aurez envoyé, il sera très difficile de le récupérer. Bien que les agences fédérales chargées de l’application de la loi, comme les services secrets et le FBI, soient devenues plus efficaces pour localiser ces fonds, le processus peut prendre beaucoup de temps.

Les algorithmes d’IA impliqués

L’IA a tendance à être associée à ce que l’on appelle le « phénomène de la boîte noire ». Cela signifie simplement que si vous soumettez une requête ChatGPT, vous obtiendrez bien sûr une réponse, mais vous ne saurez jamais comment elle y est parvenue. Cela signifie que vous ne connaissez pas les ressources que l’outil a utilisées pour produire votre réponse. Il en va de même pour les deepfakes. Comme on ne sait pas comment cette vidéo particulière a été créée, il est presque impossible de faire la différence entre une vraie vidéo de ce politicien et une fausse.

Pour rendre les deepfakes si réalistes, un algorithme d’IA est utilisé (qui utilise une combinaison d’apprentissage automatique et de réseaux neuronaux) composé d’un « générateur » et d’un « discriminateur ». Le premier crée le contenu factice réel, et le second détermine ensuite s'il est légitime ou non. Il s'agit d'un processus itératif qui se répète en quelques minutes seulement. Au fil du temps, le discriminateur indiquera au générateur que le contenu qu'il a créé est en fait illégitime. La somme de ces deux éléments crée alors ce que l'on appelle le « réseau antagoniste général », également connu plus communément sous le nom de GAN.

Après un nombre suffisant d'itérations entre le « générateur » et le « discriminateur », le « GAN » apprendra alors par lui-même combien d'images authentiques il lui faudra pour créer le deepfake. Ceci est illustré dans le diagramme ci-dessous :

Il est important de noter à ce stade qu’un Deepfake peut être bien plus qu’une simple fausse vidéo sur YouTube. Il peut prendre la forme d’un fichier audio, d’une image ou même d’un SMS. Un bon exemple de Deepfake audio a été utilisé lors des récentes élections primaires dans le New Hampshire : « Un titre inquiétant en provenance du New Hampshire, alors que les électeurs se préparaient à voter en personne aux primaires, était qu’une fausse version de la voix du président Joe Biden avait été utilisée dans des appels automatisés générés automatiquement pour décourager les démocrates de participer aux primaires. » (Source 2)

Sources/Références :

Source 1 : https://www.techtarget.com/whatis/definition/deepfake

Source 2 : https://www.cnn.com/2024/01/24/politics/deepfake-politician-biden-what-matters/index.html