KI-Sprachwerkzeuge können die Stimme einer Person anhand einer Probe aus einem kurzen Social-Media-Video oder einem Telefonat überzeugend imitieren. Betrüger nutzen diese Technologie in Szenarien nach dem Motto „Ihr Angehöriger ist in Schwierigkeiten“ und bei gefälschten Anweisungen an Unternehmen. Die US-Handelskommission FTC hat vor familiären Notfallbetrügereien unter Einsatz von Stimmklonung gewarnt.
Häufige Szenarien
- Notruf: Jemand ruft mit der Stimme Ihres Kindes, Enkelkindes oder Ehepartners an und erklärt, er habe einen Unfall gehabt, sei verhaftet oder entführt worden, und bittet sofort um Geld.
- Gefälschte Führungskraft: Ein Mitarbeiter wird mit der Stimme oder dem Bild einer Führungskraft des Unternehmens kontaktiert und aufgefordert, eine dringende Zahlung zu leisten. Im Jahr 2024 wurde ein Angestellter eines Unternehmens in Hongkong während einer Videokonferenz mit gefälschten Führungskräften dazu überredet, eine große Überweisung zu tätigen.
- Umgehung der Verifizierung: Einige Dienste, die eine Stimmverifizierung nutzen, können das Ziel solcher Angriffe sein.
- Prominenten-Imitation: Investitions- oder Gewinnspielbetrug mit gefälschten Videos von Prominenten.
Warnsignale
- Extreme Dringlichkeit und Panik: „Wenn du es jetzt nicht schickst...“
- Die Bitte, niemandem etwas zu sagen
- Forderungen nach Krypto, Geschenkkarten oder Überweisungen auf ein unbekanntes Konto
- Anrufe von unbekannten oder unterdrückten Nummern mit der Ausrede „Mein Telefon ist kaputt“
- Bei Videoanrufen: nicht synchronisierte Lippenbewegungen und Stimmen, seltsame Beleuchtung oder verschwommene Ränder (nicht immer auffällig)
Vorsichtsmaßnahmen für Familien
- Vereinbaren Sie ein Codewort: Ein Wort oder eine Frage, die nur Familienmitglieder kennen und in Notfällen abgefragt wird.
- Auflegen und zurückrufen: Rufen Sie die Person immer unter der Nummer an, die Sie kennen, oder erreichen Sie einen anderen Verwandten.
- Ältere Verwandte informieren: Zu wissen, dass es solche Anrufe gibt, ist der wirksamste Schutz.
- Schränken Sie ein, was Sie in sozialen Medien teilen: Öffentliche Videos mit Ihrer Stimme und Ihren persönlichen Daten liefern Betrügern Material.
Für Unternehmen
Verlassen Sie sich bei Zahlungsanweisungen nicht auf einen einzigen Kanal; dringende Überweisungsanfragen, die per Telefon oder Videoanruf eingehen, sollten über einen zuvor vereinbarten zweiten Kanal und nach dem Vier-Augen-Prinzip verifiziert werden.
Wenn Sie betrogen wurden, rufen Sie sofort Ihre Bank an, bewahren Sie Nachrichten und Aufzeichnungen auf und erstatten Sie Anzeige bei der Cyberkriminalitäts-Dienststelle der Polizei oder bei der Staatsanwaltschaft.
Wie funktioniert die Stimmklon-Technologie?
Stimmklon-Systeme lernen den Tonfall, den Akzent und den Sprachrhythmus einer Person anhand von Tonaufnahmen; sie können dann Sätze in der Stimme dieser Person produzieren, die diese Person nie gesagt hat. Heutzutage reicht für manche Tools bereits ein kurzes, in sozialen Medien veröffentlichtes Video oder eine Sprachnachricht als Material aus.
Im Jahr 2023 warnte die US-Handelskommission (FTC) Verbraucher davor, dass Betrüger diese Methode nutzen, um Szenarien mit „Familienmitglied in Not“ überzeugender zu gestalten. Im Februar 2024 entschied die US-Bundeskommunikationsbehörde (FCC), dass KI-generierte Stimmen in Robocalls rechtlich als „künstliche Stimme“ gelten und nicht ohne Einwilligung verwendet werden dürfen.
Was Sie in der ersten Stunde tun sollten, wenn Sie glauben, betrogen worden zu sein
Wenn Sie Geld gesendet oder Informationen weitergegeben haben, kann schnelles Handeln den Verlust verringern:
- Rufen Sie sofort Ihre Bank an; bitten Sie darum, die Transaktion zu stoppen und Ihre Karte zu sperren.
- Bewahren Sie Anrufprotokolle, Nachrichten, Kontonummern und Screenshots auf, ohne sie zu löschen.
- Melden Sie den Vorfall den Strafverfolgungsbehörden; ändern Sie Passwörter, die möglicherweise kompromittiert wurden.
Die Warnung des FBI vom Dezember 2024 empfiehlt zudem, ein geheimes Wort oder einen geheimen Satz zu vereinbaren, den nur Ihre Familie kennt, und Anrufe, die um dringendes Geld bitten, durch einen Rückruf unter einer bekannten Nummer zu verifizieren. Schnelles Melden anstelle von Schamgefühl hilft zu verhindern, dass andere auf dieselbe Weise getäuscht werden.
Funktionen, Tarife und Preise von KI-Tools ändern sich häufig. Überprüfen Sie stets die offizielle Seite des Tools für aktuelle Informationen.
Häufig gestellte Fragen
Ist es gefährlich, am Telefon „Ja“ zu sagen?
Es gibt keine starken Beweise dafür, dass die Aufzeichnung des einzelnen Wortes „Ja“ allein ein großes Risiko darstellt, aber es ist eine gute Angewohnheit, bei unbekannten Anrufen keine persönlichen Daten preisrzugeben oder sich lange zu unterhalten.
Quellen und weiterführende Literatur
- U.S. Federal Trade Commission (FTC), „Scammers use AI to enhance their family emergency schemes“ (März 2023).
- FBI Internet Crime Complaint Center (IC3), Warnung vor Betrug durch generative KI (Dezember 2024).
- Europol, „Facing reality? Law enforcement and the challenge of deepfakes“ (2022).
- FTC Consumer Alert – Scammers use AI to enhance their family emergency schemes (2023)
- FCC – Declaratory Ruling on AI-generated voices in robocalls (Februar 2024)
- FBI IC3 PSA – Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud (Dezember 2024)
Kommentar hinterlassen
Ihre E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert