Les outils vocaux basés sur l'intelligence artificielle peuvent imiter de manière convaincante la voix d'une personne à partir d'un échantillon tiré d'une courte vidéo sur les réseaux sociaux ou d'un appel téléphonique. Les escrocs utilisent cette technologie dans des scénarios où « un proche est en difficulté » et dans de fausses instructions destinées aux entreprises. La Commission fédérale du commerce des États-Unis (FTC) a émis des avertissements concernant les arnaques aux urgences familiales utilisant le clonage vocal.
Scénarios courants
- Appel d'urgence : Une personne appelant avec la voix de votre enfant, de votre petit-enfant ou de votre conjoint affirme avoir eu un accident, avoir été arrêtée ou kidnappée, et demande de l'argent immédiatement.
- Faux cadre dirigeant : Un employé est contacté avec la voix ou l'image d'un dirigeant d'entreprise et invité à effectuer un paiement urgent. En 2024, l'employé d'une entreprise à Hong Kong a été persuadé lors d'une réunion vidéo mettant en scène de faux dirigeants d'effectuer un virement important.
- Contournement de la vérification : Certains services qui utilisent la vérification vocale peuvent être ciblés.
- Usurpation d'identité de célébrités : Arnaques à l'investissement ou aux cadeaux utilisant de fausses vidéos de célébrités.
Signes avant-coureurs
- Urgence extrême et panique : « Si tu n'envoies pas l'argent tout de suite... »
- Demande de ne le dire à personne
- Demandes de cryptomonnaies, de cartes cadeaux ou de virements vers un compte inconnu
- Appels provenant de numéros inconnus ou masqués, avec l'excuse « mon téléphone est cassé »
- Lors d'appels vidéo, mouvements des lèvres et voix désynchronisés, éclairage bizarre ou contours flous (pas toujours perceptibles)
Précautions pour les familles
- Convenir d'un mot de passe : Un mot ou une question connu uniquement des membres de la famille, à poser en cas d'urgence.
- Raccrocher et rappeler : Appelez toujours la personne au numéro que vous connaissez, ou joignez un autre parent.
- Prévenir les membres plus âgés de la famille : Savoir que de tels appels existent est la protection la plus efficace.
- Limiter ce que vous partagez sur les réseaux sociaux : Les vidéos publiques contenant votre voix et vos informations personnelles fournissent du matériel aux escrocs.
Pour les entreprises
Ne vous fiez pas à un seul canal pour les instructions de paiement ; les demandes de virement urgent arrivant par téléphone ou appel vidéo doivent être vérifiées par le biais d'un second canal convenu au préalable, avec une règle de double approbation.
Si vous avez été victime d'une arnaque, appelez immédiatement votre banque, conservez les messages et les enregistrements, et signalez-le à l'unité de cybercriminalité de la police ou aux procureurs.
Comment fonctionne la technologie de clonage vocal ?
Les systèmes de clonage vocal apprennent le ton, l'accent et le rythme de parole d'une personne à partir d'enregistrements audio de celle-ci ; ils peuvent ensuite produire des phrases avec cette même voix que la personne n'a jamais prononcées. Aujourd'hui, pour certains outils, même une courte vidéo publiée sur les réseaux sociaux ou un message vocal peut suffire comme matériel.
En 2023, la Commission fédérale du commerce des États-Unis (FTC) a averti les consommateurs que les escrocs utilisaient cette méthode pour rendre les scénarios de « membre de la famille en difficulté » plus convaincants. En février 2024, la Commission fédérale des communications des États-Unis (FCC) a décrété que les voix générées par IA dans les appels automatisés (robocalls) constituent une « voix artificielle » au regard de la loi et ne peuvent être utilisées sans consentement.
Que faire dans la première heure si vous pensez avoir été victime d'une arnaque
Si vous avez envoyé de l'argent ou partagé des informations, agir rapidement peut réduire les pertes :
- Appelez immédiatement votre banque ; demandez-lui d'arrêter la transaction et de bloquer votre carte.
- Conservez les journaux d'appels, les messages, les numéros de compte et les captures d'écran sans les supprimer.
- Signalez l'incident aux forces de l'ordre ; changez tous les mots de passe qui ont pu être compromis.
L'avertissement du FBI de décembre 2024 recommande également de se mettre d'accord sur un mot ou une phrase secrète que seule votre famille connaît, et de vérifier les appels demandant de l'argent de toute urgence en rappelant à un numéro que vous connaissez. Signaler rapidement l'incident au lieu de céder à la gêne permet d'éviter que d'autres personnes ne se fassent piéger de la même manière.
Les fonctionnalités, les formules et les prix des outils d'IA changent souvent. Consultez toujours la page officielle de l'outil pour obtenir des informations actualisées.
Foire aux questions
Est-il dangereux de dire « oui » au téléphone ?
Il n'existe aucune preuve solide indiquant que l'enregistrement du seul mot « oui » présente un risque important en soi, mais éviter de donner des informations personnelles ou de parler longuement lors d'appels inconnus est une bonne habitude.
Sources et lectures complémentaires
- U.S. Federal Trade Commission (FTC), “Scammers use AI to enhance their family emergency schemes” (mars 2023).
- FBI Internet Crime Complaint Center (IC3), avertissement sur la fraude utilisant l'IA générative (décembre 2024).
- Europol, “Facing reality? Law enforcement and the challenge of deepfakes” (2022).
- FTC Consumer Alert – Scammers use AI to enhance their family emergency schemes (2023)
- FCC – Declaratory Ruling on AI-generated voices in robocalls (février 2024)
- FBI IC3 PSA – Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud (décembre 2024)
Laisser un commentaire
Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont marqués *