Kapitel 99: Künstliche Intelligenz und Stimmenimitation — Die nächste Generation des Betrugs

Das folgende Szenario ist ein lehrreiches Beispiel, das auf verbreiteten Betrugsmustern basiert. Die Figuren und Ereignisse dienen lediglich der Veranschaulichung.

Es war drei Uhr morgens, als das Telefon auf dem Nachttisch von Miriam schrill zu klingeln begann. In der absoluten Dunkelheit des Schlafzimmers in Haifa klang dieses Geräusch immer wie ein echter Alarm. Miriam, eine Rentnerin des Erziehungsministeriums, deren Verstand selbst aus tiefem Schlaf messerscharf ist, streckte zitternd die Hand aus. Auf dem Display erschien der Name ihres ältesten Sohnes, Doron.

„Mama? Mama, hörst du mich?“ Die Stimme am anderen Ende war erstickt, zittrig, begleitet von Hintergrundgeräuschen von dichtem Verkehr und pfeifendem Wind. Es war Doron. Kein Irrtum. Die Intonation, die Art, wie er das Wort 'Mama' aussprach, der leichte Konsonant am Ende des Satzes — alles war da. Es war die Stimme, die sie kannte, seit er auf die Welt gekommen war.

„Doron? Was ist passiert? Warum rufst du um diese Zeit an?“ Ihr Herz begann zu rasen.

„Mama, es gab einen Unfall. Ich... ich habe jemanden angefahren. Ich bin auf der Polizeistation in Athen. Sie haben mir den Reisepass abgenommen. Mama, ich habe Angst, sie sagen, wenn ich nicht sofort eine Kaution zahle, innerhalb einer Stunde, bringen sie mich in das zentrale Gefängnis. Ich brauche deine Hilfe. Ich schicke dir einen Zahlungslink, bitte, sag Michal nichts, ich will sie nicht beunruhigen, bis das gelöst ist.“

Miriam zögerte nicht. Sie war keine „naive Seniorin“ des Typs, der in Warnberichten über Betrug vorkommt. Sie nutzte Banking-Apps, sie las Zeitungen, sie wusste, dass es Betrüger auf der Welt gibt. Aber es war Doron. Sie hörte die Angst in seiner Stimme. Sie hörte sein abgehacktes Atmen. Innerhalb weniger Minuten überwies sie einen beträchtlichen Betrag über einen schnellen internationalen Geldtransferdienst, genau nach den Anweisungen, die sie in der WhatsApp-Nachricht erhalten hatte, die von seiner Nummer gesendet wurde.

Erst am Morgen, als sie ihre Schwiegertochter Michal anrief, um zu fragen, „ob es etwas Neues gibt“, wurde ihr das Desaster klar. Doron hatte die ganze Nacht in seinem Bett in Tel Aviv geschlafen. Er war in jener Woche nie in Griechenland gewesen. Sein Telefon wurde nicht physisch gehackt. Die Stimme, die sie gehört hatte? Sie war nie aus der Kehle ihres Sohnes gekommen. Sie wurde in einem Computerprozessor erzeugt, ein Produkt eines KI-Algorithmus, der Dorons Stimme anhand eines kurzen Videos lernte, das er nur wenige Tage zuvor in sozialen Netzwerken hochgeladen hatte.

Das obige Szenario ist ein lehrreiches Beispiel, das auf verbreiteten Betrugsmustern basiert, die heutzutage weltweit vorkommen und allmählich auch in Israel Fuß fassen. Die Figuren und Ereignisse dienen lediglich zur Veranschaulichung der Technologie und der emotionalen Manipulation.

Das neue Zeitalter: Wenn die Ohren zum Feind werden

Wir stehen an der Schwelle zu einer Ära, in der unser grundlegendstes Vertrauen — die Fähigkeit, unsere Verwandten an ihrer Stimme zu erkennen — unter Angriff steht. Wenn Betrügereien früher auf holprigen Texten in E-Mails oder Telefonaten von Betrügern basierten, die sich mit fremder Stimme als Bankvertreter ausgaben, so verwendet die nächste Generation des Betrugs die Technologie der künstlichen Intelligenz (KI).

Die Voice-Cloning-Technologie (Stimmenklonierung) hat einen bedeutenden Sprung gemacht. Während seiner beruflichen Laufbahn stieß der Autor auf vielfältige Fälle, in denen der digitale Raum missbraucht wurde, aber es scheint, als würden heutzutage wenige Sekunden einer Stimmprobe ausreichen. Ein kurzes Video im Netz, eine Sprachnachricht in einer Gruppe oder ein Interview — all das ist 'Rohmaterial' für digitale Kriminelle. Sie speisen die Probe in ein KI-Modell ein, das in der Lage ist, jeden gewünschten Satz zu produzieren, während die einzigartigen Eigenschaften des Sprechers erhalten bleiben.

Die größte Herausforderung bei Betrügereien dieser Art ist der Zusammenbruch unserer psychologischen Schutzmechanismen. Das menschliche Gehirn ist darauf programmiert, auf vertraute Stimmen zu reagieren. Wenn wir einen nahen Angehörigen in Not hören, kann die unmittelbare emotionale Reaktion das logische Urteilsvermögen ausschalten, das eigentlich Verdacht hinsichtlich der Art der Anfrage erregen sollte.

In diesem Kapitel analysieren wir als Teil der Darstellung der Zukunft der Betrugswelt die technologischen Mechanismen und die rechtlichen Möglichkeiten im Umgang mit KI-Betrug. Wir untersuchen die Schwierigkeiten, die diese Fälle für das Bankensystem verursachen, und wie das israelische Recht, insbesondere das Zahlungsdienstegesetz, mit einer sich schnell entwickelnden Technologie umgeht.

Die Mechanik der Fälschung: So funktioniert der Sprach-Deepfake-Betrug

Um die rechtliche Komplexität zu verstehen, die hier entsteht, müssen wir zuerst den technischen Prozess verstehen. Stimmenbetrug ist nicht nur eine 'Nachahmung', sondern eine Synthese. Kriminelle verwenden fortschrittliche Software und generative Modelle, die Text mit der Stimme des Opfers mit hoher Präzision produzieren.

Was den Betrug besonders effektiv macht, ist das begleitende 'Social Engineering'. In vielen Fällen führen die Betrüger eine Vorab-Recherche aus öffentlichen Quellen (OSINT) durch. Sie wissen möglicherweise, wer die Familienmitglieder sind, wo sie reisen und wie ihr Sprachstil ist. Die Genauigkeit der kleinen Details baut eine Mauer des Vertrauens auf, die in Echtzeit nur schwer zu erschüttern ist.

Während seiner beruflichen Arbeit im Laufe der Jahre stieß Rechtsanwalt auf Erklärungen von Opfern, die fragten: 'Wie hätten wir das wissen können?'. Die fachliche Analyse zeigt, dass es mit rein menschlichen Mitteln manchmal fast unmöglich ist, die Fälschung in Echtzeit aufgrund des Niveaus der Technologie und des Drucks auf das Opfer zu erkennen.

Ein weiterer Aspekt dieser Technologie ist die Fähigkeit, die Telefonnummer zu fälschen, von der aus der Anruf getätigt wird (Spoofing). Die Kombination aus einer bekannten Anrufernummer und einer bekannten Stimme stellt eine erhebliche Herausforderung für jeden vernünftigen Vorsichtsmechanismus dar.

Die rechtliche Verantwortung in einer Welt gefälschter Identitäten

Wenn Gelder aufgrund von Betrug transferiert werden, stellt sich die Frage nach der Verantwortung der Finanzinstitute. Das in solchen Fällen in Israel geltende zentrale Gesetz ist das Zahlungsdienstegesetz, 5779-2019. Dieses Gesetz gilt für eine breite Palette von Zahlungsmitteln und legt ein Grundprinzip bezüglich der Haftung für 'missbräuchliche Nutzung' fest, außer in bestimmten Fällen.

Hier liegt eine komplexe rechtliche Frage: Gilt KI-Betrug als 'nicht autorisierter Zahlungsvorgang'?

In Szenarien, in denen der Kunde die Handlung aufgrund einer Täuschung physisch selbst vornimmt, könnte das Finanzinstitut argumentieren, dass es sich um die Ausführung einer Kundenanweisung handelt und die Verantwortung für externen Betrug nicht bei ihm liegt. Andererseits kann die Sorgfaltspflicht der Bank und die Notwendigkeit der Implementierung von Überwachungssystemen, die extreme Verhaltensanomalien erkennen können, geprüft werden.

Abschnitt 25 des Zahlungsdienstegesetzes befasst sich mit der Haftung für missbräuchliche Nutzung. Das Gesetz legt fest, dass der Kunde, wenn er mit 'betrügerischer Absicht' oder 'grober Fahrlässigkeit' gehandelt hat, den Schaden tragen kann. Die faszinierende Rechtsfrage ist, was 'grobe Fahrlässigkeit' in einer Ära ist, in der die technologische Fälschung nahezu perfekt ist. Stellt das Vertrauen auf die Stimme eines Familienmitglieds eine solche Fahrlässigkeit dar? Es kann vor Gericht geprüft werden, ob eine vernünftige Person unter den gegebenen Umständen eine Möglichkeit gehabt hätte, zu erkennen, dass es sich um einen Betrug handelt.

Es ist wichtig zu verstehen, dass in Fällen, in denen der Kunde zu einer Handlung verleitet wird ('Authorized Push Payment fraud'), die rechtliche Situation komplexer ist als bei normalem Kreditkartenbetrug. Es muss in jedem Einzelfall geprüft werden, ob die Bank ihre Verfahren eingehalten hat, ob sie Warnsignale ignoriert hat und ob die Sicherheitssysteme an moderne Bedrohungen angepasst sind. Es besteht die Möglichkeit, die rechtliche Verantwortung zu prüfen, wenn nachgewiesen wird, dass das Finanzinstitut seiner Pflicht als Torwächter nicht nachgekommen ist.

Der Wendepunkt: Wenn die Technologie das Vertrauen besiegt

Der Schaden bei KI-Betrug geht über den finanziellen Schaden hinaus; er ist psychologisch und tiefgreifend. Viele Betroffene beschreiben ein Gefühl des Vertrauensverlusts in ihre grundlegendsten Sinne. Diese Krise führt zu der Erkenntnis, dass traditionelle Schutzmethoden ein Update erfordern.

Es gibt weltweit Fälle, die das Ausmaß der Gefahr verdeutlichen, wie z. B. Geldtransfers in erheblicher Größenordnung, die nach komplett gefälschten Videogesprächen getätigt wurden. In einer solchen Realität wird die rechtliche Verantwortung zu einer komplexen Angelegenheit: Kann man einer Person, die einer Realität glaubte, die absolut glaubwürdig aussah und klang, ein Verschulden zuschreiben?

Die Analyse rechtlicher Trends zeigt, dass Gerichte manchmal prüfen, wer der 'kostengünstigste Schadensverhinderer' ist. Da Finanzinstitute über technologische Instrumente zur Identifizierung ungewöhnlicher Muster verfügen, könnte ihnen in bestimmten Fällen die Verantwortung übertragen werden, selbst wenn die Handlung vom Kunden autorisiert wurde, insbesondere wenn es sich um eine extreme Abweichung von seinem Verhalten handelt.

Bewältigungsstrategien: Wie schützen wir uns in einer Welt der Fälschung?

Angesichts der Tatsache, dass die Technologie schnell voranschreitet, können einige praktische Schutzmaßnahmen auf persönlicher und familiärer Ebene in Betracht gezogen werden:

1. Ein familiäres Codewort

Die Festlegung eines geheimen Wortes oder Satzes zwischen Familienmitgliedern kann ein wirksames Werkzeug sein. Im Falle eines Notrufs, der eine finanzielle Anfrage beinhaltet, kann nach dem Codewort gefragt werden, das KI-Modellen nicht bekannt ist.

2. Überprüfung über einen zweiten Kanal

Im Falle eines verdächtigen Anrufs wird empfohlen, aufzulegen und auf eigene Initiative über die gespeicherte Telefonnummer Kontakt mit der betreffenden Person aufzunehmen. Diese Handlung umgeht Versuche der Nummern-Fälschung (Spoofing).

3. 'Lebendigkeitsprüfung' (Liveness Check)

In Videogesprächen kann man die andere Seite bitten, eine unkonventionelle physische Handlung durchzuführen. Deepfake-Algorithmen könnten bei der Verarbeitung scharfer Bewegungen oder Gesichtsverdeckungen in Echtzeit auf Schwierigkeiten stoßen.

4. Begrenzung der Stimmpräsenz im Netz

Es wird empfohlen, sich bewusst zu sein, dass in sozialen Netzwerken hochgeladene Stimminformationen als Rohmaterial dienen können. Die Einstellung privater Profile und das Abwägen bei der Weitergabe von Stimmproben können das Risiko verringern.

Rechtliche Aspekte und Fazit

Der Kampf gegen KI-Betrug erfordert eine ständige Aktualisierung der juristischen Auslegung. Es gibt eine fachliche Auffassung, die besagt, dass in einer Ära solch fortschrittlicher technologischer Fälschung nicht erwartet werden kann, dass eine vernünftige Person immer zwischen Realität und Fälschung unterscheiden kann, und daher die Messlatte für die Verantwortung des Kunden neu geprüft werden muss.

Gleichzeitig ist die Frage der Verantwortung der Technologieunternehmen, die diese Tools entwickeln, sowie die Kennzeichnung von KI-Produkten eine rechtliche Front, die das System in den kommenden Jahren intensiv beschäftigen wird.

Die Zukunft stellt das menschliche Vertrauen vor neue Herausforderungen. Im nächsten Kapitel werden wir die Auswirkungen von Deepfake im Videobereich und deren rechtliche Konsequenzen untersuchen.