Wie Voice Cloning den Kundenservice in Banken und Versicherungen verändert.

Voice Cloning basiert auf fortschrittlichen KI-Algorithmen, die anhand eines Datensatzes eine bestimmte menschliche Stimme analysieren und in der Lage sind, beliebige Inhalte mit derselben Stimme wiederzugeben. Den besten Algorithmen reichen bereits weniger als 10 Sekunden Audio-Material, um gute Ergebnisse zu erzielen. Das menschliche Stimmprofil stellt zwar ein eindeutiges biometrisches Merkmal dar und kann daher effektiv zur Authentifizierung genutzt werden. Die Fähigkeit, die Stimmen realer Menschen täuschend echt zu imitieren, birgt trotzdem potenzielle Risiken für die digitale Sicherheit Ihres Unternehmens. Voice Cloning ermöglicht die Erstellung von täuschend echten Audio-Deepfakes mithilfe derer Cyberkriminelle persönliche Daten oder Geldbeträge von Kundenkonten erbeuten können. Angesichts dieser Herausforderungen stellt sich die Frage: Wie können wir uns vor den potenziellen Gefahren des Voice Clonings schützen?

Welche Arten von Voice Cloning gibt es?

1. Replay-basiertes Voice Cloning: Bei dieser Form von Angriffen zeichnen Kriminelle heimlich menschliche Stimmen auf, indem sie ihre Opfer telefonisch kontaktieren und ihnen die gewünschten Aussagen entlocken. Diese Aufnahmen können später für sogenannte Phishing-Angriffe verwendet werden, bei denen sich die Angreifer als andere Personen ausgeben, um Vertrauen zu gewinnen und Zugriff auf sensible Daten oder Zahlungen zu erlangen. Außerhalb des Kundenservice richten sich Attacken oft gezielt gegen Vertreterinnen und Vertreter von Unternehmen (CEO-Fraud, Whale-Phishing).
   
   
2. Synthetisches Voice Cloning: Mit Programmen, die mithilfe von KI synthetische Sprachdateien erstellen, können Angreifer gefälschte Audioaufnahmen erstellen, die wie die Stimme einer realen Person klingen. Die KI wird mit der Zielstimme “gefüttert” und die Audiodaten werden auf grundlegende Muster reduziert. Je länger die Audioaufnahmen der Zielstimme sind, desto authentischer klingt die synthetische Stimme. Anschließend können die Angreifer der KI die Worte liefern, die gesprochen werden sollen, entweder per Texteingabe („Text-to-Speech“) oder durch Aufnahme der eigenen Stimme („Voice Conversion“).

Gefahren von Voice Cloning im Kundenservice?

Organisationen benötigen ein gewisses Maß an Vertrauen um mit ihren Kunden digital zu kommunizieren. Dies trifft speziell auf Banken, Versicherungen und Gesundheitseinrichtungen zu. Eine strikte “Zero-Trust-Policy” führt oft dazu, dass Authentifizierungsprozesse bis zu 2 Minuten dauern und jeder als potenzieller Krimineller betrachtet wird. Dies kann sich negativ auf die Kundenzufriedenheit auswirken.

Wenn Kunden entdecken, dass sie von gefälschten Stimmen getäuscht wurden, kann dies zu einem erheblichen Vertrauensverlust gegenüber der betroffenen Organisation führen. Vertrauen ist ein entscheidender Faktor in jeder Geschäftsbeziehung. Wenn Kunden das Gefühl haben, dass ihre persönlichen Informationen oder ihre Interaktionen mit einer Organisation nicht authentisch sind, kann dies ihr Vertrauen nachhaltig beeinträchtigen. Der Einsatz von gefälschten Stimmen untergräbt die Glaubwürdigkeit und Integrität der Organisation und kann dazu führen, dass Kunden ihre Beziehung zu ihr in Frage stellen. Dies kann sich negativ auf die Reputation und das langfristige Geschäftswachstum auswirken. Daher ist es für Organisationen von entscheidender Bedeutung, transparent und vertrauenswürdig zu bleiben und sicherzustellen, dass alle Interaktionen mit Kunden authentisch und echt sind.

Ohne angemessene Sicherheitsmaßnahmen können Mitarbeiter:innen im Kundendienst durch eine Kombination von Social Engineering, E-Mail- und Textphishing, Deepfakes und Voice Cloning getäuscht werden. Dabei werden in Echtzeit Stimmen von Kund:innen oder Vorgesetzten imitiert, um Konten zu übernehmen und Einkäufe zu tätigen. Anschließend wird die Rückerstattung verwendet, um an das Geld zu gelangen.

So schützen Sie sich vor Täuschung und Betrug

Es muss berücksichtigt werden, dass nicht alle Menschen den Missbrauch ihrer Stimme durch Dritte vorbeugen können. Daher ist es wichtig, dass Unternehmen ihre Kunden vor solchen Bedrohungen schützen. Da derzeit nur wenige technische Möglichkeiten zur Erkennung von Deepfakes – sei es in Bildern, Videos oder Audioaufnahmen – vorhanden sind, ist es entscheidend, dass man skeptisch bleibt und wachsam ist.

Hier sind einige Warnsignale für Ihr Team:

• Fordert das Gegenüber dringend Geld oder sensible Informationen? Seien Sie misstrauisch, wenn jemand ungewöhnliche finanzielle Forderungen stellt oder versucht, Sie dazu zu bringen, persönliche Daten preiszugeben.
• Wird versucht, Zeitdruck aufzubauen? Betrüger nutzen oft Drucktaktiken, um Sie zu schnellen Entscheidungen zu drängen. Bleiben Sie ruhig und nehmen Sie sich Zeit, um die Situation zu überdenken.
• Erscheint der Sprechstil unüblich oder zu perfekt? Menschen machen beim Sprechen oft Pausen oder variieren das Tempo. Künstlich generierte Stimmen können manchmal zu glatt oder unnatürlich klingen.
• Passen die Erwiderungen nur eingeschränkt zu Fragen? Achten Sie darauf, ob die Antworten des Gesprächspartners tatsächlich auf Ihre Fragen eingehen oder ob sie ausweichend oder unklar sind.

Indem Sie diese Warnsignale beachten und Ihre Skepsis wahren, können Sie sich besser vor Täuschungen und Betrug schützen. Es ist auch wichtig, sich über aktuelle Betrugsmaschen und Sicherheitsvorkehrungen zu informieren und Ihre persönlichen Daten sorgfältig zu schützen.