Une amende record de 6M$ infligée pour usage de deepfake en politique !

Steven Kramer a eu recours à une intelligence artificielle de clonage vocal pour faire en sorte que des appels automatisés ressemblent à ceux du président Biden. Est-ce le futur de la communication politique automatisée ?

Amende record pour l’usage illégal de la technologie Deepfake en politique

La Commission Fédérale des Communications (FCC) a officiellement prononcé une amende de 6 millions de dollars à l’encontre du consultant politique Steve Kramer. La raison ? L’utilisation illégale de la technologie d’intelligence artificielle avancée, connue sous le nom de deepfake, pour la réalisation de robocalls lors des primaires du New Hampshire.

Violation de la loi sur l’identification de l’appelant

La FCC accuse Kramer d’avoir violé la « Truth in Caller ID Act » de 2009. Cette loi interdit à quiconque de « transmettre sciemment des informations d’identification de l’appelant trompeuses ou inexactes dans le but de commettre une fraude, de causer un préjudice ou d’obtenir indûment quelque chose de valeur ». À l’origine, cette disposition législative ne visait pas spécifiquement l’usage de l’IA. Cependant, en février dernier, la FCC a voté à l’unanimité pour que cette loi s’applique également aux deepfakes, ces fausses informations générées par intelligence artificielle.

Des deepfakes pour manipuler l’élection

Kramer a utilisé des robocalls pour diffuser des messages audio préenregistrés, imitant la voix du président Biden à l’aide de la technologie deepfake. Ces appels frauduleux ont incité les électeurs du New Hampshire à ne pas voter lors de la primaire présidentielle de 2024, sous prétexte que leur vote n’aurait d’importance qu’en novembre, et non lors du scrutin de mardi. Selon le New York Times, ces appels semblaient provenir de l’ancienne présidente du Parti démocrate du New Hampshire.

Un magicien complice et un compte clôturé

Pour réaliser ces enregistrements, Kramer a fait appel à Paul Carpenter, un magicien de la Nouvelle-Orléans. Celui-ci a montré à NBC News comment il avait utilisé un générateur vocal d’IA appelé ElevenLabs pour créer les fichiers audio deepfake du président Biden. Carpenter affirme que la réalisation de ces enregistrements n’a pris que 20 minutes et que Kramer l’a rémunéré via Venmo. Il pensait que le travail qu’il accomplissait était autorisé par la campagne du président Biden. Depuis, Eleven Labs a fermé le compte de Carpenter.

Bien que Kramer prétende avoir envoyé ces robocalls pour sensibiliser le public aux dangers et à la mauvaise utilisation de la technologie, il doit faire face non seulement à une lourde amende de la FCC, mais aussi à des accusations criminelles. En effet, le procureur général du New Hampshire, John M. Formella, a annoncé en mai dernier que Kramer était sous le coup de 13 chefs d’accusation pour suppression des électeurs et 13 chefs d’accusation pour usurpation d’identité d’un candidat.