Chapitre 101 : Agents autonomes et fraudes personnalisées — Le chasseur numérique qui ne dort jamais

Au fil des ans, le monde des fraudes numériques ressemblait à un vaste filet de pêche lancé dans la mer avec l'espoir d'attraper quelque chose. Les e-mails du « prince nigérian », les SMS concernant un colis retardé par la poste ou les liens contrefaits vers une banque — tous étaient génériques, souvent écrits dans une langue approximative et envoyés à un grand nombre de personnes simultanément selon la méthode du « qui tente rien n'a rien ». Ceux qui restaient vigilants et faisaient preuve d'une prudence élémentaire parvenaient à éviter le filet assez facilement. Mais à mesure que l'on examine les falsifications de voix et de vidéos, on peut observer une révolution beaucoup plus silencieuse et dangereuse : le passage de la « pêche au filet » à la « chasse au harpon guidé par laser ».

Découvrez les agents autonomes. Il ne s'agit plus de simples robots répondant à des mots-clés, mais de logiciels basés sur l'intelligence artificielle capables de se fixer des objectifs, d'élaborer une stratégie, de collecter des informations depuis chaque recoin du réseau et de gérer une relation qui dure des semaines, voire des mois — tout cela sans aucune intervention humaine de l'autre côté. Si par le passé l'escroc devait investir du temps et de l'énergie pour tromper une victime spécifique (ce que l'on appelle dans le jargon professionnel le spear phishing), aujourd'hui, l'agent autonome peut le faire pour de nombreuses victimes simultanément, avec un niveau de précision et de manipulation autrefois réservé aux agents de renseignement chevronnés.

Dans ce chapitre, nous analyserons cette technologie, nous comprendrons comment elle est susceptible d'affecter les mécanismes de défense psychologique et nous examinerons les outils juridiques qui pourraient être à la disposition des victimes lorsque l'adversaire est un code conçu pour nuire à l'épargne financière.

Le scénario suivant est un exemple pédagogique basé sur des modèles de fraude courants. Les personnages et les événements ne sont donnés qu'à titre d'illustration.

Le cas de Yoram : quand l'algorithme devient un confident

Yoram (nom fictif), 54 ans, directeur des opérations dans une grande entreprise de logistique, est considéré comme une personne pondérée. Il ne clique pas sur les liens suspects, utilise l'authentification à deux facteurs pour tous ses comptes et respecte scrupuleusement les règles de sécurité bancaire. Un matin, il a reçu une demande sur LinkedIn d'une femme nommée « Naama Levi », qui se présentait comme analyste de marché dans le domaine des chaînes d'approvisionnement. Son profil semblait crédible : photo professionnelle (générée par IA, mais difficile à détecter), recommandations de collègues de l'industrie et liste de publications.

« Bonjour Yoram », a écrit Naama. « J'ai lu l'entretien que vous avez accordé à Calcalist le mois dernier sur la pénurie de matières premières. Votre analyse concernant les ports de l'Est était fascinante. Je travaille sur une recherche similaire et j'aimerais connaître votre avis sur un point précis. »

Yoram était flatté. La conversation s'est développée lentement. Pendant trois semaines, « Naama » n'a rien demandé. Elle a envoyé à Yoram des articles pertinents, posé des questions professionnelles et fait preuve d'une connaissance approfondie. Elle savait quand il partait en vacances (information publiée en ligne), elle connaissait le prénom de ses enfants (à partir d'une ancienne publication sur les réseaux sociaux) et elle écrivait toujours dans un langage soutenu et factuel. Ce que Yoram ne pouvait pas savoir, c'est que « Naama » est un scénario possible d'agent autonome — un script sophistiqué connecté à un grand modèle linguistique (LLM) qui scanne en temps réel l'empreinte numérique pour construire une manipulation émotionnelle.

La crise a éclaté un mardi soir. Naama a envoyé un message WhatsApp affolé : « Yoram, je suis dans un pétrin terrible. Ma start-up a remporté un appel d'offres gouvernemental, mais en raison d'une défaillance technique lors d'un transfert à l'étranger, nos garanties ne sont pas passées et l'appel d'offres sera annulé demain matin. Il me manque 150 000 shekels pour 48 heures seulement. Je n'ose pas demander, mais vous êtes la seule personne du secteur en qui j'ai confiance. J'ai tous les documents confirmant l'attribution. »

Elle a envoyé des fichiers PDF qui semblaient officiels. Yoram, qui avait l'impression de connaître Naama depuis un mois et la considérait comme une collègue, ne s'est douté de rien. Il a transféré l'argent par virement bancaire vers un compte qu'elle lui a fourni. Le lendemain, le profil LinkedIn de Naama avait disparu, le numéro WhatsApp était déconnecté et l'argent avait transité par une chaîne rapide de comptes jusqu'à être transformé en cryptomonnaies.

Dans un tel scénario, lorsqu'une victime sollicite un conseil juridique, elle peut exprimer une frustration profonde et son incompréhension quant à la manière dont une machine a réussi à simuler une personnalité humaine de manière si convaincante, tout en utilisant des informations personnelles et professionnelles précises.

L'évolution du piège : de la méthode du « filet » à celle du « harpon » autonome

Le passage du statique au dynamique

La différence fondamentale entre les fraudes d'autrefois et celles des agents autonomes réside dans le dynamisme. Par le passé, un escroc préparait une « page de destination » frauduleuse et attendait. Aujourd'hui, l'agent autonome est actif et réagit aux réponses de la victime. Si la victime exprime un doute, l'agent peut changer de tactique. Si la victime pose une question complexe, l'agent est capable de trouver des informations et de formuler une explication convaincante en quelques secondes.

Collecte d'informations (OSINT) basée sur l'intelligence artificielle

Les agents autonomes opèrent généralement via le « renseignement de sources ouvertes ». Ils scannent les réseaux sociaux, les blogs, les commentaires sur les forums et même les registres d'entreprises. L'objectif est de construire un profil psychologique : quels sont les points faibles de la cible ? Quelles sont ses aspirations ? L'agent adapte l'« appât » personnellement, ce qui rend la fraude difficile à identifier.

La patience électronique

Contrairement à un facteur humain qui pourrait faire preuve d'impatience, un agent autonome peut attendre très longtemps. Il peut mener une « conversation banale » pendant des mois, mentionner des dates personnelles et envoyer des recommandations de contenu, uniquement pour bâtir la confiance nécessaire au moment où la demande financière sera faite. Cette patience est conçue pour neutraliser la suspicion naturelle initiale.

La machine derrière le masque : comment les agents autonomes changent les règles du jeu

Sur le plan technologique, les agents autonomes fonctionnent dans des boucles de rétroaction. L'attaquant peut définir une mission générale d'obtention de profit financier auprès d'un public cible, et l'agent agit de manière autonome :

1. Décomposition en tâches : L'agent identifie une liste de cibles, construit une identité crédible et établit un premier contact.
2. Exécution : Utilisation d'outils numériques pour localiser les objectifs, création d'une histoire de fond par l'intelligence artificielle et envoi de sollicitations personnalisées.
3. Apprentissage et adaptation : Analyse des réponses et amélioration de l'approche en fonction de l'interaction avec la cible.

La capacité d'effectuer une « attaque par usurpation d'identité à grande échelle » (Mass Personalization) est l'une des menaces les plus importantes aujourd'hui. Un serveur unique peut exécuter un grand nombre de ces agents simultanément, chacun gérant une communication unique avec une cible différente.

Fraudes à la « boucherie de cochons » (Pig Butchering) à l'ère autonome

Ce type de fraude est basé sur une construction progressive de la confiance et l'attente de profits. Les agents autonomes peuvent inciter les victimes à ouvrir des comptes sur des plateformes d'investissement fictives, afficher des bénéfices inexistants et même permettre le retrait de petites sommes au début pour renforcer la confiance — le tout dans un processus automatisé.

La lutte juridique dans le brouillard numérique : responsabilité des banques et des établissements financiers à l'ère de l'IA

Une question centrale qui se pose dans ces cas est celle de la responsabilité en cas de perte de fonds. Dans un monde d'agents autonomes, la réponse nécessite un examen du droit existant en Israël.

Loi sur les services de paiement, 2019

Cette loi fixe la répartition de la responsabilité entre le client et l'établissement financier en cas d'« utilisation non autorisée » d'un moyen de paiement. En règle générale, pour une opération effectuée sans l'autorisation du client, la responsabilité incombe à l'établissement financier. Cependant, lorsque le client effectue lui-même le virement suite à une manipulation, la situation juridique devient plus complexe.

Dans de telles situations, la question du devoir de vigilance accrue de la banque se pose. Il est possible d'examiner si la banque a l'obligation de détecter des modèles anormaux. Si les systèmes n'ont pas détecté un virement significatif vers un tiers avec lequel il n'y avait aucun contact préalable comme étant un événement suspect, il est possible que la responsabilité de l'établissement financier soit examinée selon les circonstances de l'espèce.

La question de la « faute grave »

La loi peut exonérer un établissement financier de sa responsabilité si le client a agi avec une « faute grave ». La question juridique est de savoir si être victime d'un agent autonome sophistiqué, qui a simulé une personnalité humaine sur une période prolongée, constitue une telle faute. Il existe une position professionnelle selon laquelle, à mesure que la technologie devient plus élaborée, le seuil d'attentes envers l'homme raisonnable peut changer, et il convient d'examiner le niveau de protection requis de la part des institutions financières face aux manipulations basées sur une technologie de pointe.

La responsabilité des plateformes numériques

Une autre question juridique concerne la responsabilité des réseaux sociaux qui permettent l'activité des agents autonomes. Malgré les protections étendues existantes pour les plateformes concernant le contenu des utilisateurs, il est possible d'examiner des options juridiques dans les cas où la plateforme n'a pas agi après signalement ou lorsqu'un algorithme de recommandation a contribué à créer le contact initial.

Signes d'alerte : comment identifier un agent autonome avant qu'il n'attaque

Malgré la sophistication, on peut parfois identifier des fissures dans l'identité numérique des agents autonomes :

• Vitesse de réponse : Réponse très rapide à des messages longs et complexes à toute heure, d'une manière qui n'est pas toujours naturelle.
• Nuances émotionnelles et communicationnelles : Les agents d'IA peuvent avoir du mal à reconnaître l'humour cynique, le sarcasme profond ou les indices culturels très spécifiques.
• Évitement de rencontre : Excuses répétées concernant l'incapacité de tenir une visioconférence en direct ou une rencontre en présentiel.
• Changement de nature de la relation : Relation construite sur le long terme sans rencontre physique, qui bascule soudainement vers des demandes à caractère financier.
• Caractéristiques du profil : Photos à l'aspect artificiel, absence d'interactions sociales naturelles ou liste de contacts semblant aléatoire.

Mesures possibles en cas de suspicion de fraude

1. Arrêt de la communication : Coupure immédiate du contact avec l'entité suspecte pour empêcher toute manipulation supplémentaire.
2. Preuves : Conservation de captures d'écran des conversations, des profils et des documents, car ces informations peuvent être supprimées par l'autre partie.
3. Demande à la banque : Prise de contact urgente avec le service de sécurité de la banque pour examiner la possibilité d'arrêter les opérations, dans la mesure où les circonstances le permettent.
4. Signalement aux autorités : Dépôt d'une plainte en précisant la suspicion d'utilisation d'une technologie d'intelligence artificielle, ce qui aide à caractériser l'événement.
5. Examen juridique : Examen du respect par l'établissement financier de ses obligations et vérification s'il existe des causes pour envisager le remboursement des fonds.

Aspect juridique : responsabilité et restitution

Dans les cas de fraudes personnalisées, la voie juridique est examinée en fonction des circonstances spécifiques de chaque cas.

Aspect de la responsabilité professionnelle : Si une fraude a été commise en utilisant des informations ayant fuité chez un employeur ou un fournisseur de services, on peut examiner la responsabilité selon la loi sur la protection de la vie privée.

Obligation d'information et d'avertissement : Il existe une approche juridique selon laquelle les tribunaux peuvent examiner si la banque a fourni des avertissements suffisants en temps réel. Une analyse juridique générale suggère que dans certaines circonstances, si une institution financière est consciente des modèles de fraude courants et n'avertit pas le client effectuant une opération similaire, cela peut être examiné au regard du droit de la responsabilité civile.

En conclusion, à l'ère de la technologie apprenante, la meilleure protection combine vigilance et prudence avec la défense de ses droits juridiques. Au cours des années de travail professionnel, le besoin d'examiner comment le système juridique s'adapte à cette réalité changeante devient évident, afin d'assurer une protection optimale du public.