Capítulo 101: Agentes autónomos y fraudes personalizados — El cazador digital que nunca descansa
A lo largo de los años, el mundo de los fraudes digitales se asemejaba a una red de pesca lanzada al mar con la esperanza de atrapar algo. Los correos electrónicos del "príncipe nigeriano", los mensajes SMS sobre un paquete retenido en correos o los enlaces falsos a bancos; todos eran genéricos, a veces escritos en un hebreo deficiente, y enviados a muchas personas al mismo tiempo mediante el método de "a ver si hay suerte". Quien abría los ojos, quien mostraba una precaución básica, lograba evitar la red con relativa facilidad. Pero al examinar las falsificaciones de voz y video, se observa una revolución silenciosa y mucho más peligrosa: el paso de la "pesca en red" a la "caza con arpón guiado por láser".
Conozca a los agentes autónomos. No se trata ya de bots simples que responden a palabras clave, sino de programas basados en inteligencia artificial capaces de fijarse objetivos, planificar estrategias, recopilar información de cada rincón de la red y gestionar una relación que dura semanas o meses, todo ello sin contacto humano en el otro extremo. Si antes el estafador tenía que invertir tiempo y energía para engañar a una víctima específica (lo que en la jerga profesional se conoce como Spear Phishing), hoy en día, el agente autónomo puede hacerlo para muchas víctimas simultáneamente, con un nivel de precisión y manipulación que antes estaba reservado solo para agentes de inteligencia expertos.
En este capítulo analizaremos esta tecnología, comprenderemos cómo puede afectar a los mecanismos de defensa psicológica y examinaremos las herramientas legales que podrían estar al alcance de los afectados cuando el adversario es un código diseñado para atentar contra los ahorros financieros.
El siguiente escenario es un ejemplo educativo basado en patrones de fraude comunes. Los personajes y eventos son solo para fines ilustrativos.
El caso de Yoram: cuando un algoritmo se convierte en confidente
Yoram (nombre ficticio), de 54 años, director de operaciones en una gran empresa de logística, es considerado una persona equilibrada. No hace clic en enlaces sospechosos, utiliza verificación de dos pasos en todas sus cuentas y cumple rigurosamente con las normas de precaución del banco. Una mañana, recibió una solicitud en LinkedIn de una mujer llamada "Naama Levy", que se presentó como analista de mercado en el sector de cadenas de suministro. Su perfil parecía creíble: una foto profesional (generada por IA, aunque era difícil notarlo), recomendaciones de colegas del sector y una lista de publicaciones.
"Hola Yoram", escribió Naama. "Leí la entrevista que diste a Calcalist el mes pasado sobre la escasez de materias primas. Tu análisis sobre los puertos del Este fue fascinante. Estoy trabajando en una investigación similar y me encantaría conocer tu opinión sobre un punto específico".
Yoram se sintió halagado. La conversación fluyó lentamente. Durante tres semanas, "Naama" no pidió nada. Ella le enviaba a Yoram artículos relevantes, le hacía preguntas profesionales y demostraba un conocimiento profundo. Sabía cuándo se iba de vacaciones (información publicada en la red), conocía los nombres de sus hijos (de una antigua publicación en una red social) y siempre escribía en un hebreo elocuente y pertinente. Lo que Yoram no podía saber es que "Naama" era un posible escenario de un agente autónomo: un script sofisticado conectado a un gran modelo de lenguaje (LLM) que escanea en tiempo real la huella digital para construir una manipulación emocional.
La crisis llegó el martes por la noche. Naama envió un mensaje de WhatsApp alarmado: "Yoram, estoy en un problema terrible. Mi startup ganó una licitación gubernamental, pero debido a un fallo técnico en una transferencia desde el extranjero, nuestras garantías no pasaron y la licitación será cancelada mañana por la mañana. Me faltan 150 mil shekels solo por 48 horas. No me atrevo a pedir, pero eres la única persona del sector en la que confío. Tengo todos los documentos que acreditan la adjudicación".
Ella envió archivos PDF que parecían oficiales. Yoram, que sentía que conocía a Naama desde hace un mes y la consideraba una colega, no sospechó. Realizó la transferencia bancaria a la cuenta que ella le proporcionó. Al día siguiente, el perfil de Naama en LinkedIn desapareció, el número de WhatsApp fue desconectado y el dinero pasó por una rápida cadena de cuentas hasta convertirse en criptomonedas.
En un escenario así, cuando una víctima solicita asesoramiento legal, puede expresar una profunda frustración y desconcierto sobre cómo una máquina logró simular una personalidad humana de forma tan convincente, utilizando información personal y profesional precisa.
La evolución de la trampa: del método de "la red" al método del "arpón" autónomo
El paso de lo estático a lo dinámico
La diferencia fundamental entre los fraudes del pasado y los fraudes de agentes autónomos reside en el dinamismo. Antes, un estafador preparaba una "página de aterrizaje" falsa y esperaba. Hoy, el agente autónomo es activo y responde a las respuestas de la víctima. Si la víctima expresa dudas, el agente puede cambiar de táctica. Si la víctima hace una pregunta compleja, el agente es capaz de localizar información y redactar una explicación convincente en segundos.
Recopilación de información (OSINT) basada en inteligencia artificial
Los agentes autónomos operan a menudo mediante "inteligencia de fuentes abiertas". Escanean redes sociales, blogs, respuestas en foros e incluso registros comerciales. El objetivo es construir un perfil psicológico: ¿cuáles son los puntos débiles del objetivo? ¿Cuáles son sus aspiraciones? El agente adapta el "cebo" de manera personalizada, lo que hace que el fraude sea difícil de detectar.
Paciencia electrónica
A diferencia de un factor humano que puede mostrar impaciencia, un agente autónomo puede esperar mucho tiempo. Puede mantener una "charla casual" durante meses, mencionar fechas personales y enviar recomendaciones de contenido, solo para construir la confianza necesaria para el momento en que se realice la solicitud financiera. Esta paciencia está diseñada para neutralizar la sospecha natural inicial.
La máquina detrás de la máscara: cómo los agentes autónomos cambian las reglas del juego
Desde el punto de vista tecnológico, los agentes autónomos operan en circuitos de retroalimentación. El atacante puede definir una tarea general de obtención de beneficio financiero de un público objetivo específico, y el agente actúa de forma independiente:
- Descomposición en tareas: El agente localiza una lista de objetivos, construye una identidad creíble y establece un contacto inicial.
- Ejecución: Uso de herramientas digitales para localizar objetivos, creación de una historia de fondo mediante inteligencia artificial y envío de solicitudes adaptadas.
- Aprendizaje y adaptación: Análisis de las respuestas y mejora del enfoque según la interacción con el objetivo.
La capacidad de realizar un "ataque de suplantación a gran escala" (Mass Personalization) es una de las amenazas más significativas de la actualidad. Un solo servidor puede ejecutar un gran número de estos agentes simultáneamente, cada uno gestionando una comunicación única con un objetivo diferente.
Fraudes de "matanza de cerdos" (Pig Butchering) en la era autónoma
Este tipo de fraude se basa en la construcción gradual de confianza y la expectativa de ganancias. Los agentes autónomos pueden guiar a las víctimas para que abran cuentas en plataformas de inversión ficticias, mostrar ganancias que no existen e incluso permitir el retiro de pequeñas cantidades al principio para fortalecer la confianza: todo en un proceso automatizado.
La lucha legal en la niebla digital: responsabilidad de bancos y entidades financieras en la era de la IA
Una pregunta central que surge en estos casos es el tema de la responsabilidad por la pérdida de fondos. En un mundo de agentes autónomos, la respuesta requiere un examen de la ley vigente en Israel.
Ley de Servicios de Pago, 2019
Esta ley establece la división de responsabilidad entre el cliente y la entidad financiera en caso de "uso indebido" de medios de pago. Por regla general, en una operación no autorizada por el cliente, la responsabilidad recae en la entidad financiera. Sin embargo, cuando el cliente realiza la transferencia por sí mismo debido a una manipulación, la situación legal se vuelve más compleja.
En tales situaciones, surge la cuestión del deber de diligencia agravado del banco. Se puede examinar si el banco tiene el deber de detectar patrones inusuales. Si los sistemas no detectaron una transferencia significativa a un destinatario con el que no hubo contacto previo como un evento sospechoso, es posible que se pueda examinar la responsabilidad de la entidad financiera en las circunstancias del caso.
La cuestión de la "negligencia grave"
La ley puede eximir a una entidad financiera de responsabilidad si el cliente actuó con "negligencia grave". La pregunta legal es si ser víctima de un agente autónomo sofisticado, que simuló una personalidad humana durante mucho tiempo, constituye tal negligencia. Existe una posición profesional que sostiene que, a medida que la tecnología mejora, el umbral de expectativas de una persona razonable puede cambiar, y se debe examinar el nivel de protección requerido por parte de las instituciones financieras frente a manipulaciones basadas en tecnología avanzada.
La responsabilidad de las plataformas digitales
Otra cuestión legal se refiere a la responsabilidad de las redes sociales que permiten la actividad de agentes autónomos. A pesar de las amplias protecciones existentes sobre las plataformas con respecto al contenido de los usuarios, se pueden explorar opciones legales en casos en los que la plataforma no actuó tras una alerta o cuando el algoritmo de recomendaciones contribuyó a la creación del contacto inicial.
Señales de advertencia: cómo detectar un agente autónomo antes de que ataque
A pesar de la sofisticación, a veces se pueden detectar grietas en la identidad digital de los agentes autónomos:
- Velocidad de respuesta: Respuestas muy rápidas a mensajes largos y complejos a cualquier hora, de una manera que no siempre es natural.
- Matices emocionales y comunicativos: Los agentes de IA pueden tener dificultades para detectar el humor cínico, el sarcasmo profundo o alusiones culturales muy específicas.
- Evitación de encuentros: Excusas repetidas sobre la incapacidad de realizar una videollamada en vivo o una reunión presencial.
- Cambio en la naturaleza de la relación: Una relación construida a lo largo del tiempo sin encuentro físico, que pasa repentinamente a solicitudes de carácter financiero.
- Características del perfil: Fotos con aspecto artificial, ausencia de interacciones sociales naturales o una lista de contactos que parece aleatoria.
Posibles medidas en caso de sospecha de fraude
- Cese de comunicación: Interrupción inmediata del contacto con la parte sospechosa para evitar mayores manipulaciones.
- Documentación: Guardar capturas de pantalla de las conversaciones, perfiles y documentos, ya que esta información podría ser eliminada por la otra parte.
- Contacto con el banco: Establecer contacto urgente con el departamento de seguridad del banco para examinar la posibilidad de detener las operaciones, en la medida en que sea posible según las circunstancias.
- Denuncia a las autoridades: Presentar una denuncia e indicar la sospecha de uso de tecnología de inteligencia artificial, lo cual ayuda a caracterizar el evento.
- Análisis legal: Examinar el cumplimiento de sus obligaciones por parte de la entidad financiera y si existen motivos para examinar la restitución de fondos.
Aspecto legal: responsabilidad y restitución
En casos de fraudes personalizados, la vía legal se examina de acuerdo con las circunstancias específicas de cada caso.
Aspecto de la responsabilidad profesional: Si el fraude se llevó a cabo utilizando información filtrada por un empleador o proveedor de servicios, se puede examinar la responsabilidad conforme a la Ley de Protección de la Privacidad.
Deber de revelación y advertencia: Existe un enfoque legal según el cual los tribunales pueden examinar si el banco proporcionó advertencias suficientes en tiempo real. Un análisis legal general sugiere que en ciertas circunstancias, si una entidad financiera es consciente de los patrones de fraude comunes y no advierte al cliente que realiza una operación similar, esto puede ser examinado bajo el prisma de las leyes de negligencia.
En conclusión, en la era de la tecnología de aprendizaje, la mejor protección combina conciencia y cautela junto con la defensa de los derechos legales. A lo largo de los años de trabajo profesional, surge la necesidad de examinar cómo el sistema legal se adapta a esta realidad cambiante, para garantizar una protección óptima del público.
2013 Palabras · 10 min de lectura