Dans l'écosystème vaste et piloté par des algorithmes d'internet d'aujourd'hui, l'intelligence artificielle s'avère être une arme à double tranchant — qui non seulement donne du pouvoir aux créateurs et aux innovateurs, mais alimente également des ambitions plus sombres. Les experts en sécurité avertissent maintenant que les groupes extrémistes utilisent des outils de clonage vocal par IA pour dynamiser la propagande, rendant leur message plus convaincant et les aidant à étendre leur portée et leur influence de manière qui était auparavant difficile ou coûteuse.
Le clonage vocal utilise l'IA générative pour reproduire une voix humaine à partir de quelques secondes d'audio original, créant une parole synthétique qui sonne étrangement authentique. Bien que ces technologies aient des usages légitimes — allant des outils d'accessibilité à la production médiatique — elles ont attiré l'attention des réseaux néo-nazis, des groupes djihadistes et d'autres mouvements extrémistes déterminés à diffuser leur idéologie en ligne avec un impact émotionnel accru.
Les experts ont observé que les extrémistes créent des versions audio générées par IA de discours historiques notoires et de textes radicaux — y compris des rendus en anglais des discours d'Adolf Hitler et des livres audio de littérature extrémiste violente — emballés avec des visuels sur les réseaux sociaux pour séduire de nouveaux publics. Ces clips ont accumulé des dizaines de millions de vues sur des plateformes telles que TikTok, YouTube et Instagram, attirant des utilisateurs qui pourraient ne pas s'engager avec du texte brut seul.
Le contenu audio tend à sembler plus personnel et persuasif que les publications écrites ou les images statiques. Une voix délivrant un message — surtout si elle semble autoritaire ou familière — peut évoquer une réponse émotionnelle que le texte seul pourrait ne pas atteindre. C'est précisément l'effet recherché par les extrémistes : faire en sorte que leur matériel semble authentique, urgent et relatable, abaissant la résistance et normalisant des idées marginales parmi des auditeurs susceptibles.
L'accessibilité des outils de clonage vocal a abaissé les barrières techniques et financières pour les acteurs malveillants. Des services commerciaux comme ElevenLabs permettent aux utilisateurs de générer des voix clonées de haute qualité avec un minimum de compétences, ce qui signifie que même des groupes ou des individus peu organisés peuvent produire du contenu qui semble réel. Cette dynamique brouille la ligne entre la propagande marginale amateur et les médias produits professionnellement, amplifiant la portée des extrémistes sans supervision ou réglementation proportionnelle.
Les plateformes et les régulateurs commencent à s'attaquer à ces risques. Certaines entreprises de médias sociaux mettent en place des politiques exigeant la divulgation par les créateurs de contenu généré par IA et investissent dans des systèmes de filigrane ou d'identification vocale pour détecter les médias synthétiques. Pourtant, les experts avertissent que de telles mesures en sont encore à leurs débuts et peuvent être à la traîne par rapport au rythme rapide des abus alors que les outils d'IA générative continuent d'évoluer et de se proliférer.
Alors que les extrémistes s'adaptent à la nouvelle technologie, le défi pour les gouvernements, les entreprises technologiques et la société civile est double : comment préserver les avantages de l'innovation en IA tout en empêchant son exploitation pour propager la haine, la désinformation et la radicalisation. Sans des protections plus solides, la crainte est que la propagande améliorée par l'IA devienne encore plus efficace pour recruter, normaliser des récits nuisibles et façonner le discours en ligne de manière à saper la cohésion sociale et la sécurité publique.
Avertissement sur les images IA "Les visuels sont créés avec des outils d'IA et sont destinés uniquement à la représentation."
Sources The Guardian NewsBytes GNet Research Washington Post PBS NewsHour
Publié par Banx Network. Cet article fait partie du programme de médias décentralisés Banx, propulsé par le jeton BXE sur le XRP Ledger.
