Capítulo 99: Inteligencia artificial y suplantación de voz — La próxima generación del fraude

El siguiente escenario es un ejemplo educativo basado en patrones de fraude comunes. Los personajes y los eventos están destinados únicamente a fines ilustrativos.

Eran las tres de la mañana cuando el teléfono en la mesita de noche de Miriam cobró vida con un chirrido estridente. En la oscuridad total del dormitorio en Haifa, este sonido siempre parece una alarma real. Miriam, una pensionista del Ministerio de Educación cuya mente es afilada como una navaja incluso en medio de un sueño profundo, extendió una mano temblorosa. En la pantalla aparecía el nombre de su hijo mayor, Doron.

"¿Mamá? Mamá, ¿me oyes?". La voz del otro lado estaba ahogada, temblorosa, acompañada por ruidos de fondo de tráfico denso y viento silbante. Era Doron. No había error. La entonación, la forma en que pronunciaba la palabra 'mamá', el leve matiz al final de la frase... todo estaba ahí. Era la voz que ella conocía desde que él vino al mundo.

"¿Doron? ¿Qué pasó? ¿Por qué llamas a esta hora?". Su corazón comenzó a acelerarse.

"Mamá, hubo un accidente. Yo... yo atropellé a alguien. Estoy en la comisaría de Atenas. Me quitaron el pasaporte. Mamá, tengo miedo, dicen que si no pago la fianza ahora, en una hora, me trasladarán a una prisión central. Necesito que me ayudes. Te enviaré un enlace de pago, por favor, no le digas a Michal, no quiero asustarla hasta que esto se resuelva".

Miriam no dudó. No era una "anciana ingenua" del tipo que aparece en artículos que advierten sobre estafas. Ella utilizaba aplicaciones bancarias, leía periódicos, sabía que había estafadores en el mundo. Pero era Doron. Escuchó el miedo en su voz. Escuchó sus respiraciones entrecortadas. En cuestión de minutos, transfirió una suma significativa a través de un servicio rápido de transferencia de dinero internacional, exactamente según las instrucciones que recibió en el mensaje de WhatsApp enviado desde su número.

Solo por la mañana, cuando llamó a Michal, su nuera, para preguntar "si había alguna novedad", se reveló el desastre. Doron había estado durmiendo en su cama en Tel Aviv toda la noche. Nunca había estado en Grecia esa semana. Su teléfono no fue hackeado físicamente. ¿La voz que ella escuchó? Nunca salió de la garganta de su hijo. Fue creada en un procesador informático, producto de un algoritmo de inteligencia artificial que aprendió la voz de Doron a partir de un video corto que él subió a las redes sociales días antes.

El escenario anterior es un ejemplo educativo basado en patrones de fraude comunes que ocurren hoy en el mundo y comienzan a infiltrarse en Israel. Los personajes y los eventos están destinados únicamente a fines ilustrativos de la tecnología y la manipulación emocional.

La nueva era: cuando los oídos se vuelven enemigos

Estamos ante el umbral de una era en la que nuestra confianza más básica —la capacidad de identificar a nuestros seres queridos por su voz— está bajo ataque. Si en el pasado las estafas se basaban en textos mal redactados en correos electrónicos o en llamadas telefónicas de estafadores que se hacían pasar por representantes bancarios con una voz extranjera, la próxima generación de fraude utiliza la tecnología de inteligencia artificial (IA).

La tecnología de Voice Cloning (clonación de voz) ha dado un salto significativo. Durante sus años de trabajo profesional, el autor se ha encontrado con diversos casos en los que se ha utilizado el espacio digital para el mal, pero parece que hoy en día bastan unos pocos segundos de muestra de voz. Un video corto en la red, un mensaje de voz en un grupo o una entrevista: todos estos son "materias primas" para los delincuentes digitales. Introducen la muestra en un modelo de inteligencia artificial, y este es capaz de generar cualquier frase que deseen, manteniendo las características únicas del hablante.

El mayor desafío en este tipo de estafas es el colapso de nuestros mecanismos de defensa psicológicos. El cerebro humano está programado para reaccionar ante voces conocidas. Cuando escuchamos a una persona cercana en peligro, la respuesta emocional inmediata puede silenciar el juicio lógico que debería despertar sospechas sobre la naturaleza de la solicitud.

En este capítulo, como parte de la presentación del futuro del mundo del fraude, analizaremos los mecanismos tecnológicos y las posibilidades legales para enfrentar las estafas de IA. Examinaremos las dificultades que estos casos plantean para el sistema bancario y cómo la ley israelí, y en particular la Ley de Servicios de Pago, afronta una tecnología que evoluciona rápidamente.

La mecánica de la falsificación: así funciona el fraude de Deepfake de voz

Para entender la complejidad legal que se crea aquí, primero debemos entender el proceso técnico. El fraude de voz no es solo una "imitación", sino una síntesis. Los delincuentes utilizan programas avanzados y modelos generativos que producen texto con la voz de la víctima con un alto nivel de precisión.

Lo que hace que la estafa sea especialmente efectiva es la "ingeniería social" (Social Engineering) que la acompaña. En muchos casos, los estafadores realizan una investigación preliminar de fuentes abiertas (OSINT). Es posible que sepan quiénes son los miembros de la familia, dónde viajan y cuál es su estilo de habla. La precisión en los pequeños detalles construye un muro de credibilidad difícil de derribar en tiempo real.

A lo largo de sus años de trabajo profesional, el abogado ha encontrado explicaciones de víctimas que preguntaban "¿cómo podíamos saberlo?". El análisis profesional muestra que, mediante medios humanos únicamente, a veces es casi imposible detectar la falsificación en tiempo real debido al nivel de la tecnología y a la presión ejercida sobre la víctima.

Otro aspecto de esta tecnología es la capacidad de falsificar el número de teléfono desde el cual se realiza la llamada (Spoofing). La combinación de un número identificador conocido y una voz identificable conocida constituye un desafío significativo para cualquier mecanismo de precaución razonable.

La responsabilidad legal en un mundo de identidades falsificadas

Cuando los fondos se transfieren como resultado de un fraude, surge la cuestión de la responsabilidad de las instituciones financieras. La ley central aplicable en estos casos en Israel es la Ley de Servicios de Pago, 2019. Esta ley se aplica a una amplia gama de medios de pago y establece un principio básico sobre la responsabilidad por "uso indebido", salvo en ciertos casos.

Aquí radica un tema legal complejo: ¿se considera la estafa de IA como una "operación de pago no autorizada"?

En escenarios donde es el cliente quien realiza físicamente la acción debido a un engaño, la institución financiera puede argumentar que se trata de la ejecución de una instrucción del cliente y que la responsabilidad por el fraude externo no recae en ellos. Por otro lado, se puede examinar el deber de diligencia del banco y la necesidad de implementar sistemas de monitoreo capaces de identificar anomalías conductuales extremas.

El artículo 25 de la Ley de Servicios de Pago trata sobre la responsabilidad por uso indebido. La ley establece que si el cliente actuó con "intención fraudulenta" o "negligencia grave", puede cargar con el daño. La pregunta legal fascinante es qué constituye "negligencia grave" en una era en la que la falsificación tecnológica es casi perfecta. ¿Es confiar en la voz de un familiar una negligencia de este tipo? Se puede examinar en los tribunales si una persona razonable tenía forma de saber que se trataba de una estafa dadas las circunstancias.

Es importante entender que en los casos en que el cliente es engañado para realizar una acción ("Fraude de Pago Autorizado"), la situación legal es más compleja que el fraude de tarjetas de crédito habitual. Se debe examinar en cada caso si el banco cumplió con sus procedimientos, si ignoró las señales de advertencia y si los sistemas de seguridad están adaptados a las amenazas modernas. Existe la posibilidad de examinar la responsabilidad legal si se demuestra que la institución financiera falló en el cumplimiento de su deber como guardián.

El punto de crisis: cuando la tecnología vence a la confianza

El daño en las estafas de inteligencia artificial va más allá del daño económico; es psicológico y profundo. Muchas víctimas describen una sensación de pérdida de confianza en sus sentidos más básicos. Esta crisis conduce a la comprensión de que los métodos de defensa tradicionales requieren una actualización.

Existen casos en el mundo que ilustran la magnitud del peligro, como transferencias de fondos de magnitudes significativas realizadas después de videollamadas totalmente falsificadas. En tal realidad, la responsabilidad legal se convierte en un tema complejo: ¿se puede atribuir culpabilidad a una persona que creyó en una realidad que parecía y sonaba totalmente creíble?

El análisis de las tendencias legales muestra que, a veces, los tribunales examinan quién es el "evitador de daños más barato". Dado que las instituciones financieras tienen herramientas tecnológicas para identificar patrones inusuales, es posible que en ciertos casos se les atribuya responsabilidad incluso si la operación fue aprobada por el cliente, especialmente si se trata de una desviación extrema de sus hábitos.

Formas de afrontamiento: ¿cómo nos protegeremos en un mundo de falsificación?

Dado que la tecnología avanza rápidamente, se pueden examinar varias herramientas de defensa prácticas para su adopción a nivel personal y familiar:

1. Una palabra clave familiar

Establecer una palabra o frase secreta entre los miembros de la familia puede ser una herramienta eficaz. En caso de una llamada de emergencia que implique una solicitud de dinero, se puede solicitar la palabra clave que los modelos de inteligencia artificial no conocen.

2. Verificación por un canal adicional

En caso de una llamada sospechosa, se recomienda colgar y contactar por iniciativa propia a la persona en cuestión a través del número de teléfono guardado. Esta acción elude los intentos de falsificación de número (Spoofing).

3. "Verificación de signos de vida" (Liveness Check)

En videollamadas, se puede pedir a la otra parte que realice una acción física inusual. Los algoritmos de Deepfake pueden encontrar dificultades al procesar movimientos bruscos u ocultación del rostro en tiempo real.

4. Reducción de la exposición de voz en la red

Se recomienda ser consciente de que la información de voz subida a las redes sociales podría utilizarse como materia prima. Configurar perfiles como privados y usar el criterio al compartir muestras de voz puede reducir el riesgo.

Aspectos legales y resumen

La lucha contra las estafas de IA requiere una actualización constante de la interpretación legal. Existe una postura profesional que sostiene que en una era de falsificación tecnológica tan avanzada, no se puede esperar que la persona razonable distinga siempre entre la realidad y la falsificación, y por lo tanto se debe reexaminar el umbral de responsabilidad atribuido al cliente.

Al mismo tiempo, el tema de la responsabilidad de las empresas tecnológicas que desarrollan estas herramientas y el marcado de los productos de IA es un frente legal que ocupará mucho al sistema en los próximos años.

El futuro presenta nuevos desafíos para la confianza humana. En el próximo capítulo examinaremos los efectos del Deepfake en el campo del video y sus consecuencias legales.