Kapitel 101: Autonome Agenten und personalisierter Betrug — Der digitale Jäger, der niemals ruht

Im Laufe der Jahre ähnelte die Welt des digitalen Betrugs einem breiten Fischnetz, das in der Hoffnung auf einen Fang ins Meer geworfen wurde. Die E-Mails des „nigerianischen Prinzen“, SMS-Nachrichten über ein verzögertes Paket oder gefälschte Links zu Banken — all dies war generisch, oft in holpriger Sprache verfasst und wurde nach dem „Trial-and-Error“-Prinzip an viele Menschen gleichzeitig gesendet. Wer wachsam war und grundlegende Vorsicht walten ließ, konnte dem Netz relativ leicht entkommen. Doch bei der Betrachtung von Stimm- und Videofälschungen lässt sich eine weitaus leisere und gefährlichere Revolution erkennen: der Übergang vom „Fischen im Netz“ zur „Jagd mit einem lasergesteuerten Speer“.

Lernen Sie die autonomen Agenten kennen. Dies sind keine einfachen Bots mehr, die auf Schlüsselwörter reagieren, sondern Programme auf Basis künstlicher Intelligenz, die fähig sind, sich Ziele zu setzen, Strategien zu planen, Informationen aus jedem Winkel des Netzes zu sammeln und über Wochen und Monate hinweg Beziehungen aufzubauen — und das alles ohne menschliches Zutun auf der anderen Seite. Musste ein Betrüger früher Zeit und Energie investieren, um ein spezifisches Opfer zu täuschen (im Fachjargon als Spear Phishing bekannt), so kann der autonome Agent dies heute für viele Betroffene gleichzeitig tun, mit einem Grad an Präzision und Manipulation, der früher nur spezialisierten Geheimdienstagenten vorbehalten war.

In diesem Kapitel werden wir diese Technologie analysieren, verstehen, wie sie die psychologischen Schutzmechanismen beeinflussen kann, und die rechtlichen Instrumente untersuchen, die den Opfern zur Verfügung stehen, wenn der Gegner ein Code ist, der darauf ausgelegt ist, die Ersparnisse zu vernichten.

Das folgende Szenario ist ein lehrreiches Beispiel, das auf gängigen Betrugsmustern basiert. Die Figuren und Ereignisse dienen lediglich zur Veranschaulichung.

Der Fall Yoram: Wenn ein Algorithmus zum Vertrauten wird

Yoram (Name geändert), 54, stellvertretender Geschäftsführer in einem großen Logistikunternehmen, galt als besonnener Mensch. Er klickt nicht auf verdächtige Links, nutzt die Zwei-Faktor-Authentifizierung für alle seine Konten und hält sich strikt an die Vorsichtsregeln der Bank. Eines Morgens erhielt er eine Anfrage auf LinkedIn von einer Frau namens „Naama Levy“, die sich als Marktanalystin im Bereich Lieferketten vorstellte. Ihr Profil wirkte glaubwürdig: ein professionelles Foto (KI-generiert, was jedoch schwer zu erkennen war), Empfehlungen von Branchenkollegen und eine Liste von Publikationen.

„Hallo Yoram“, schrieb Naama. „Ich habe das Interview gelesen, das Sie letzten Monat dem Wirtschaftsmagazin zu den Engpässen bei Rohstoffen gegeben haben. Ihre Analyse zu den östlichen Häfen war faszinierend. Ich arbeite an einer ähnlichen Studie und würde mich freuen, Ihre Meinung zu einem bestimmten Punkt zu hören.“

Yoram fühlte sich geschmeichelt. Das Gespräch entwickelte sich langsam. Drei Wochen lang bat „Naama“ um nichts. Sie schickte Yoram relevante Artikel, stellte fachliche Fragen und bewies tiefgehendes Wissen. Sie wusste, wann er in den Urlaub ging (Informationen, die im Netz veröffentlicht wurden), sie kannte die Namen seiner Kinder (aus einem alten Beitrag in einem sozialen Netzwerk) und sie schrieb stets in flüssigem und sachlichem Hebräisch. Was Yoram nicht wissen konnte, war, dass „Naama“ ein mögliches Szenario eines autonomen Agenten war — ein raffiniertes Skript, das mit einem großen Sprachmodell (LLM) verbunden ist und in Echtzeit den digitalen Fußabdruck scannt, um eine emotionale Manipulation aufzubauen.

Die Krise kam an einem Dienstagabend. Naama schickte eine dringende WhatsApp-Nachricht: „Yoram, ich bin in einer schrecklichen Lage. Mein Start-up hat eine staatliche Ausschreibung gewonnen, aber aufgrund eines technischen Fehlers bei einer Überweisung aus dem Ausland wurden unsere Garantien nicht übertragen und die Ausschreibung wird morgen früh storniert. Mir fehlen 150.000 Schekel für nur 48 Stunden. Ich traue mich kaum zu fragen, aber Sie sind die einzige Person aus der Branche, der ich vertraue. Ich habe alle Dokumente, die den Zuschlag bestätigen.“

Sie schickte PDF-Dateien, die offiziell aussahen. Yoram, der das Gefühl hatte, Naama bereits einen Monat lang zu kennen und sie als Kollegin sah, schöpfte keinen Verdacht. Er überwies das Geld per Banküberweisung auf ein Konto, das sie ihm nannte. Am nächsten Tag verschwand das LinkedIn-Profil von Naama, die WhatsApp-Nummer wurde abgeschaltet und das Geld floss über eine Kette schneller Konten, bis es in Kryptowährungen umgewandelt wurde.

In einem solchen Szenario, wenn ein Betroffener rechtlichen Rat sucht, kann er tief empfundene Frustration und Verwunderung darüber äußern, wie eine Maschine es geschafft hat, eine menschliche Persönlichkeit so überzeugend zu simulieren, während sie präzise persönliche und berufliche Informationen nutzte.

Die Evolution der Falle: Vom „Netz“ zur Methode des autonomen „Speers“

Der Übergang von statisch zu dynamisch

Der wesentliche Unterschied zwischen dem Betrug der Vergangenheit und dem Betrug durch autonome Agenten liegt in der Dynamik. Früher bereitete ein Betrüger eine gefälschte „Landingpage“ vor und wartete. Heute ist der autonome Agent aktiv und reagiert auf die Antworten des Opfers. Wenn das Opfer Zweifel äußert, kann der Agent die Taktik ändern. Wenn das Opfer eine komplexe Frage stellt, ist der Agent in der Lage, Informationen zu finden und innerhalb von Sekunden eine überzeugende Erklärung zu formulieren.

Informationsbeschaffung (OSINT) auf Basis von KI

Autonome Agenten arbeiten meist mit „Open Source Intelligence“. Sie scannen soziale Netzwerke, Blogs, Forenbeiträge und sogar geschäftliche Register. Das Ziel ist es, ein psychologisches Profil zu erstellen: Was sind die Schwachstellen des Ziels? Was sind seine Ambitionen? Der Agent passt den „Köder“ persönlich an, was den Betrug schwer erkennbar macht.

Elektronische Geduld

Im Gegensatz zu einer menschlichen Komponente, die möglicherweise Ungeduld zeigt, kann ein autonomer Agent lange warten. Er kann monatelang „Smalltalk“ führen, persönliche Jahrestage erwähnen und Content-Empfehlungen senden, nur um das nötige Vertrauen für den Moment aufzubauen, in dem die finanzielle Forderung gestellt wird. Diese Geduld dient dazu, die natürliche anfängliche Skepsis zu neutralisieren.

Die Maschine hinter der Maske: Wie autonome Agenten die Spielregeln ändern

Technologisch gesehen arbeiten autonome Agenten in Feedbackschleifen. Der Angreifer kann eine allgemeine Aufgabe zur Erzielung eines finanziellen Gewinns von einer bestimmten Zielgruppe festlegen, und der Agent handelt autonom:

1. Zerlegung in Aufgaben: Der Agent findet eine Liste von Zielen, baut eine glaubwürdige Identität auf und nimmt den ersten Kontakt auf.
2. Ausführung: Nutzung digitaler Werkzeuge zur Zielsuche, Erstellung einer Hintergrundgeschichte durch KI und Senden maßgeschneiderter Anfragen.
3. Lernen und Anpassung: Analyse der Reaktionen und Verbesserung der Herangehensweise entsprechend der Interaktion mit dem Ziel.

Die Fähigkeit, einen „weitreichenden Identitätsangriff“ (Mass Personalization) durchzuführen, gehört heute zu den bedeutendsten Bedrohungen. Ein einzelner Server kann eine große Anzahl solcher Agenten gleichzeitig ausführen, wobei jeder eine einzigartige Kommunikation mit einem anderen Ziel führt.

„Pig Butchering“-Betrug (Schweineschlachtung) im autonomen Zeitalter

Diese Art von Betrug basiert auf schrittweisem Vertrauensaufbau und der Erwartung von Gewinnen. Die autonomen Agenten können die Betroffenen anleiten, Konten auf fiktiven Anlageplattformen zu eröffnen, nicht existierende Gewinne vorzuzeigen und sogar zu Beginn kleine Auszahlungen zu ermöglichen, um das Vertrauen zu stärken — alles in einem automatisierten Prozess.

Der Rechtsstreit im digitalen Nebel: Die Haftung von Banken und Finanzinstituten im KI-Zeitalter

Eine zentrale Frage, die in diesen Fällen aufkommt, ist die Frage der Haftung für den Verlust von Geldern. In einer Welt autonomer Agenten erfordert die Antwort eine Prüfung des geltenden Rechts in Israel.

Gesetz über Zahlungsdienste, 2019

Dieses Gesetz legt die Haftungsverteilung zwischen dem Kunden und dem Finanzinstitut im Falle einer „missbräuchlichen Verwendung“ von Zahlungsmitteln fest. Grundsätzlich liegt die Haftung bei einer nicht vom Kunden autorisierten Transaktion beim Finanzinstitut. Wenn der Kunde die Überweisung jedoch aufgrund einer Manipulation selbst vornimmt, wird die rechtliche Situation komplexer.

In solchen Situationen stellt sich die Frage nach der erhöhten Sorgfaltspflicht der Bank. Es kann geprüft werden, ob die Bank verpflichtet ist, ungewöhnliche Muster zu erkennen. Wenn die Systeme keine bedeutende Überweisung an einen Dritten, zu dem bisher keine geschäftliche Verbindung bestand, als verdächtiges Ereignis erkannt haben, ist es möglich, die Haftung des Finanzinstituts unter den gegebenen Umständen zu prüfen.

Die Frage der „groben Fahrlässigkeit“

Das Gesetz kann ein Finanzinstitut von der Haftung befreien, wenn der Kunde „grob fahrlässig“ gehandelt hat. Die rechtliche Frage ist, ob das Opfer eines raffinierten autonomen Agenten, der über lange Zeit eine menschliche Figur imitierte, eine solche Fahrlässigkeit darstellt. Es gibt eine professionelle Auffassung, die besagt, dass sich mit der technologischen Fortentwicklung auch die Erwartungshaltung an den durchschnittlichen Menschen ändern könnte und das Schutzniveau seitens der Finanzinstitute gegenüber fortschrittlichen, technologiebasierten Manipulationen geprüft werden muss.

Die Verantwortung der digitalen Plattformen

Ein weiteres rechtliches Thema betrifft die Haftung von sozialen Netzwerken, die die Aktivitäten autonomer Agenten ermöglichen. Trotz der umfassenden Schutzbestimmungen, die für Plattformen in Bezug auf nutzergenerierte Inhalte gelten, können rechtliche Möglichkeiten in Fällen geprüft werden, in denen die Plattform nach einer Warnung nicht gehandelt hat oder wenn ein Empfehlungsalgorithmus zur Entstehung des ersten Kontakts beigetragen hat.

Warnsignale: Wie man einen autonomen Agenten erkennt, bevor er angreift

Trotz der Raffinesse lassen sich manchmal Risse in der digitalen Identität autonomer Agenten erkennen:

• Reaktionsgeschwindigkeit: Sehr schnelle Antworten auf lange und komplexe Nachrichten zu jeder Tageszeit, was nicht immer natürlich wirkt.
• Emotionale und kommunikative Nuancen: KI-Agenten könnten Schwierigkeiten bei der Erkennung von zynischem Humor, tiefgründigem Sarkasmus oder sehr spezifischen kulturellen Hinweisen haben.
• Vermeidung von Treffen: Wiederholte Ausreden bezüglich der Unfähigkeit, an einem Live-Videoanruf oder einem persönlichen Treffen teilzunehmen.
• Veränderung der Art der Beziehung: Eine Beziehung, die über längere Zeit ohne physisches Treffen aufgebaut wurde und plötzlich zu finanziellen Forderungen übergeht.
• Profileigenschaften: Fotos mit künstlichem Aussehen, Mangel an natürlichen sozialen Interaktionen oder eine Kontaktliste, die zufällig erscheint.

Mögliche Schritte bei Verdacht auf Betrug

1. Abbruch der Kommunikation: Sofortige Beendigung des Kontakts mit der verdächtigen Partei, um weitere Manipulationen zu verhindern.
2. Dokumentation: Sicherung von Screenshots der Unterhaltungen, Profile und Dokumente, da diese Informationen von der Gegenseite gelöscht werden könnten.
3. Kontakt zur Bank: Dringende Kontaktaufnahme mit der Sicherheitsabteilung der Bank zur Prüfung einer Stornierung von Transaktionen, soweit dies unter den gegebenen Umständen möglich ist.
4. Meldung an die Behörden: Einreichung einer Anzeige unter Hinweis auf den Verdacht der Nutzung von KI-Technologie, was bei der Charakterisierung des Vorfalls hilft.
5. Rechtliche Prüfung: Prüfung, ob das Finanzinstitut seinen Pflichten nachgekommen ist und ob Gründe für eine Rückforderung bestehen.

Rechtlicher Aspekt: Haftung und Rückerstattung

In Fällen von personalisiertem Betrug wird der rechtliche Weg entsprechend den spezifischen Umständen jedes Falles geprüft.

Aspekt der beruflichen Haftung: Wenn ein Betrug unter Nutzung von Informationen begangen wurde, die von einem Arbeitgeber oder Dienstleister durchgesickert sind, kann die Haftung gemäß dem Datenschutzgesetz geprüft werden.

Offenlegungs- und Warnpflicht: Es gibt einen juristischen Ansatz, demzufolge Gerichte prüfen könnten, ob die Bank angemessene Warnungen in Echtzeit bereitgestellt hat. Eine allgemeine juristische Analyse legt nahe, dass in bestimmten Umständen, wenn ein Finanzinstitut von gängigen Betrugsmustern weiß und den Kunden nicht vor einer ähnlichen Handlung warnt, dies unter dem Aspekt des Fahrlässigkeitsrechts betrachtet werden könnte.

Zusammenfassend lässt sich sagen, dass im Zeitalter der lernenden Technologie der beste Schutz eine Kombination aus Bewusstsein und Vorsicht sowie der Wahrnehmung rechtlicher Rechte ist. Im Laufe der beruflichen Arbeit zeigt sich die Notwendigkeit zu untersuchen, wie sich das Rechtssystem an diese sich verändernde Realität anpasst, um einen optimalen Schutz der Öffentlichkeit zu gewährleisten.