L’Intelligence Artificielle fascine la population depuis maintenant plusieurs années. Bien que cette technologie soit une aide majeure dans l’exécution et gestion des tâches, elle peut également être utilisée de manière néfaste. Certaines personnes utilisent l’IA générative pour faire des deepsfake. Le mécanisme de deepfake sert à créer des imitations ou créer de fausse l’information rendant la distinction difficile entre la réalité et le fictif.
Dans cette affaire, la société Lingo Telecom avait mit en place des appels automatisés imitant la voix du président Joe Biden. L’objectif de cet appel était de tromper les électeurs du New Hampshire en les incitant à ne pas se rendre aux urnes lors des primaires démocrates. Suite à cet événement la Federal Communications Commission (FCC) en charge de la régulation des télécoms a infligé une amende d’un millions de dollars, soit 897 000 euros, ) l’opérateur texan. Dans ses écrits, la FCC revient sur ce « clonage vocal » qui disait : “Votre vote fera la différence en novembre, pas ce mardi […]. Voter ce mardi ne fera qu’aider les Républicains à faire réélire Donald Trump”. En plus de l’amende, la FCC a également imposé pour la première fois la mise en œuvre d’un plan de conformité visant à authentifier l’identifiant de l’appelant. Dans ses communications, l’autorité de régulation souligne l’importance de la transparence lors de l’utilisation de l’IA, afin de garantir que le public soit pleinement conscient de l’identité de son interlocuteur.Derrière cette arnaque se trouve Steve Kramer, rival du président américain, qui affirme n’avoir payé que 500 dollars pour que ces appels.
Ces appels montrent l’importance d’une vigilance accrue face à l’augmentation des IA génératives. Les dérives de ces technologies peuvent aboutir à des désinformations majeures changeant totalement le paysage démocratique. Plusieurs gouvernements et ONG cherchent à réguler les développement et l’utilisation de cette technologie afin de prévenir ce genre de dérive. Suite à cet incident, la FCC a alors décidé de rendre illégale les technologies de clonage vocal lorsque ces dernières sont utilisées pour les appels automatisés vers les consommateurs. À l’approche des élections présidentielles américaines, ces technologies peuvent susciter des inquiétudes, car elles sont utilisées pour désinformer les électeurs et peuvent avoir un impact néfaste sur le paysage politique mondial. Comme l’Union européenne, il est essentiel que les gouvernements adoptent rapidement des réglementations étendues de ces technologies afin de prévenir toute dérive dangereuse.
source :
- https://kulturegeek.fr/news-315627/lingo-telecom-ecope-dune-amende-d1-million-dollars-appels-automatises-fausse-voix-joe-biden
- https://www.usine-digitale.fr/article/un-operateur-telecoms-condamne-a-payer-1-million-de-dollars-apres-le-deepfake-de-joe-biden.N2217368
