Das Missbrauchspotenzial ist groß. Der sogenannte Enkeltrick, bei dem sich Betrüger am Telefon als nahe Verwandte ausgeben und zumeist ältere Leute um ihre Ersparnisse bringen, könnte sich durch die Verbreitung solcher Audio-Werkzeuge nochmal verschärfen. Die Behörden sind alarmiert. Die nationale Cyberabwehr von Israel warnte im Juli vor sogenannten "voice phishing calls", betrügerischen Anrufen an Topmanager.

In den USA stellen sogenannte Robocalls ein zunehmendes Problem dar: automatisierte Spam-Anrufe, bei denen unseriöse Firmen versuchen, Abos zu verkaufen oder in betrügerischer Absicht behaupten, die Computerlizenz sei abgelaufen. Allein 2018 erhielten US-Amerikaner 26,3 Milliarden Robocalls, ein Anstieg von 46 Prozent im Vergleich zum Vorjahr. Eine regelrechte Telemarketing-Epidemie hat sich in den USA ausgebreitet. Zwar sind die Robocalls in der Vergangenheit immer ausgefeilter geworden. So läuft bei den automatisierten Anrufen nicht bloß eine synthetische Stimme vom Band ab, sondern eine täuschend ähnliche Menschenstimme, die flexibel auf Gesprächssituationen reagieren kann.

Solche Robocalls lassen sich jedoch leicht entlarven, wenn man nach einer Frage in den Hörer pfeift oder singt. Im Gegensatz zu einem Anrufer aus Fleisch und Blut antwortet das Programm dann meist: "Es tut mir leid, ich habe das nicht verstanden!" Anders bei den KI-basierten Stimmgeneratoren: Dort sind Original und Kopie kaum noch voneinander zu unterscheiden. Einzig am Duktus ließe sich der Fake erkennen. Doch wer macht schon eine Satzstrukturanalyse, wenn er am Telefon überrumpelt wird?

Cybersicherheitsexperten fordern daher, Stimmverifikations-Tools einzusetzen, um die Anrufer zu authentifizieren. Ob sich das ein Mittelständler leisten kann und ob das die Betrüger abschreckt, ist fraglich. Stimmbiometrische Authentifizierungsverfahren bieten zudem keine absolute Sicherheit: Dem BBC-Reporter Dan Simmons gelang es, durch die Stimmimitation die Kundenhotline einer Bank zu überlisten und Zugang zum Konto seines zweieiigen Zwillingsbruders zu bekommen. Nicht nur in der Politik und Wissenschaft, sondern auch in der Wirtschaft könnte sich nun rächen, dass Computerprogramme die erkenntnistheoretischen Grundlagen von wahr und falsch unterminieren.