Capítulo 99: Inteligência Artificial e falsificação de voz — A próxima geração de fraudes

O cenário a seguir é um exemplo educativo baseado em padrões comuns de fraude. Os personagens e eventos destinam-se apenas à ilustração.

Eram três da manhã quando o telefone na mesa de cabeceira de Miriam despertou com um grito estridente. Na escuridão absoluta do quarto em Haifa, esse som sempre parecia um alarme real. Miriam, uma pensionista do Ministério da Educação cujo pensamento é afiado como uma navalha, mesmo após um sono profundo, estendeu a mão trêmula. No visor apareceu o nome de seu filho mais velho, Doron.

"Mãe? Mãe, você está me ouvindo?" A voz do outro lado estava embargada, trêmula, acompanhada por ruídos de fundo de tráfego intenso e vento soprando. Era o Doron. Sem dúvida. A entonação, a maneira como ele pronunciava a palavra 'mãe', a leve inflexão no final da frase — tudo estava lá. Era a voz que ela conhecia desde que ele veio ao mundo.

"Doron? O que aconteceu? Por que você está ligando a essa hora?" O coração dela começou a acelerar.

"Mãe, houve um acidente. Eu... eu atropelei alguém. Estou na delegacia em Atenas. Levaram meu passaporte. Mãe, estou com medo, eles dizem que se eu não pagar a fiança agora, dentro de uma hora, eles vão me transferir para uma prisão central. Preciso que você me ajude. Vou te enviar um link de pagamento, por favor, não conte para a Michal, não quero assustá-la até que isso seja resolvido."

Miriam não hesitou. Ela não era uma "idosa ingênua" do tipo que aparece nas reportagens alertando contra fraudes. Ela usava aplicativos bancários, lia jornais, ela sabia que existiam golpistas no mundo. Mas aquele era o Doron. Ela ouviu o medo na voz dele. Ela ouviu sua respiração entrecortada. Em minutos, ela transferiu uma quantia significativa através de um serviço internacional de transferência rápida de dinheiro, exatamente conforme as instruções que recebeu na mensagem de WhatsApp enviada pelo número dele.

Somente pela manhã, quando ela ligou para Michal, sua nora, para perguntar "se havia novidades", o desastre ficou claro. Doron dormiu em sua cama em Tel Aviv durante toda a noite. Ele nunca esteve na Grécia naquela semana. O telefone dele não foi hackeado fisicamente. A voz que ela ouviu? Nunca saiu da garganta do seu filho. Foi criada por um processador de computador, fruto de um algoritmo de inteligência artificial que aprendeu a voz de Doron a partir de um pequeno vídeo que ele postou nas redes sociais poucos dias antes.

O cenário acima é um exemplo educativo baseado em padrões comuns de fraude que ocorrem hoje no mundo e começam a penetrar em Israel. Os personagens e eventos destinam-se apenas à ilustração da tecnologia e da manipulação emocional.

A nova era: quando os ouvidos se tornam o inimigo

Estamos no limiar de uma era em que nossa confiança mais básica — a capacidade de identificar nossos entes queridos por suas vozes — está sob ataque. Se no passado as fraudes se baseavam em textos mal redigidos em e-mails ou em chamadas telefônicas de golpistas se passando por funcionários de banco com sotaque estrangeiro, a próxima geração de golpes utiliza a tecnologia de Inteligência Artificial (IA).

A tecnologia de Voice Cloning (clonagem de voz) deu um salto significativo. Durante seu trabalho profissional, o autor encontrou casos variados em que o espaço digital foi usado para o mal, mas parece que hoje poucos segundos de amostragem de voz são suficientes. Um pequeno vídeo na rede, uma mensagem de voz em um grupo ou uma entrevista — tudo isso é "matéria-prima" para criminosos digitais. Eles alimentam a amostra em um modelo de inteligência artificial, que é capaz de produzir qualquer frase que desejarem, mantendo as características únicas do falante.

O maior desafio nas fraudes deste tipo é o colapso de nossos mecanismos de defesa psicológicos. O cérebro humano é programado para reagir a vozes familiares. Quando ouvimos um ente querido em perigo, a resposta emocional imediata pode silenciar o julgamento lógico que deveria levantar suspeitas sobre a natureza do pedido.

Neste capítulo, como parte da apresentação do futuro do mundo das fraudes, analisaremos os mecanismos tecnológicos e as opções legais para lidar com fraudes de IA. Examinaremos as dificuldades que esses casos causam ao sistema bancário e como a legislação, especialmente a Lei de Serviços de Pagamento, lida com uma tecnologia que evolui rapidamente.

A mecânica da falsificação: como funciona o golpe de Deepfake de voz

Para entender a complexidade jurídica criada aqui, primeiro devemos entender o processo técnico. A fraude por voz não é apenas uma "imitação", mas uma síntese. Os criminosos usam softwares avançados e modelos generativos que produzem texto na voz da vítima com um alto nível de precisão.

O que torna a fraude particularmente eficaz é a "engenharia social" (Social Engineering) que a acompanha. Em muitos casos, os golpistas realizam uma pesquisa preliminar a partir de fontes abertas (OSINT). Eles podem saber quem são os membros da família, onde viajam e qual é seu estilo de fala. A precisão nos pequenos detalhes constrói uma muralha de credibilidade difícil de derrubar em tempo real.

Ao longo de seu trabalho profissional, o advogado se deparou com explicações de vítimas que perguntavam "como poderíamos saber?". A análise profissional mostra que, apenas com meios humanos, às vezes é quase impossível detectar a falsificação em tempo real devido ao nível da tecnologia e à pressão exercida sobre a vítima.

Outro aspecto dessa tecnologia é a capacidade de falsificar o número de telefone de onde a chamada é feita (Spoofing). A combinação de um identificador de chamadas familiar e uma voz familiar representa um desafio significativo para qualquer mecanismo de cautela razoável.

A responsabilidade jurídica em um mundo de identidades falsas

Quando os fundos são transferidos como resultado de fraude, surge a questão da responsabilidade das instituições financeiras. A principal lei aplicável a esses casos em Israel é a Lei de Serviços de Pagamento, 2019. Esta lei aplica-se a uma ampla gama de meios de pagamento e estabelece um princípio fundamental sobre a responsabilidade por "uso indevido", exceto em casos específicos.

Aqui reside uma questão jurídica complexa: a fraude por IA é considerada uma "operação de pagamento não autorizada"?

Em cenários em que o cliente é quem executa fisicamente a operação devido ao engano, a instituição financeira pode argumentar que se trata da execução de uma instrução do cliente e que a responsabilidade pela fraude externa não lhe cabe. Por outro lado, pode-se examinar o dever de diligência do banco e a necessidade de implementar sistemas de monitoramento capazes de detectar anomalias comportamentais extremas.

O artigo 25 da Lei de Serviços de Pagamento trata da responsabilidade pelo uso indevido. A lei estabelece que se o cliente agiu com "intenção fraudulenta" ou "negligência grave", ele pode arcar com o prejuízo. A questão jurídica fascinante é o que constitui "negligência grave" em uma era em que a falsificação tecnológica é quase perfeita. Será que confiar na voz de um membro da família constitui tal negligência? Pode-se examinar nos tribunais se uma pessoa comum teria como saber que se tratava de uma fraude dadas as circunstâncias do caso.

É importante entender que, nos casos em que o cliente é induzido a realizar uma ação ("fraude de pagamento autorizado"), a situação jurídica é mais complexa do que em uma fraude de cartão de crédito comum. Deve-se examinar em cada caso se o banco cumpriu seus procedimentos, se ignorou sinais de alerta e se os sistemas de segurança estão adaptados às ameaças modernas. Existe a possibilidade de examinar a responsabilidade jurídica se for provado que a instituição financeira falhou em cumprir seu dever como guardião.

O ponto de crise: quando a tecnologia vence a confiança

O dano nas fraudes por inteligência artificial vai além do prejuízo financeiro; é psicológico e profundo. Muitas vítimas descrevem uma sensação de perda de confiança em seus sentidos mais básicos. Essa crise leva à compreensão de que os métodos de defesa tradicionais exigem atualização.

Existem casos no mundo que ilustram a magnitude do perigo, como transferências de dinheiro de magnitudes significativas realizadas após chamadas de vídeo totalmente falsificadas. Nessa realidade, a responsabilidade jurídica torna-se uma questão complexa: pode-se atribuir culpa a alguém que acreditou em uma realidade que parecia e soava totalmente confiável?

Uma análise das tendências jurídicas mostra que, por vezes, os tribunais examinam quem é o "evitador de dano mais barato". Como as instituições financeiras possuem ferramentas tecnológicas para detectar padrões anormais, é possível que, em certos casos, a responsabilidade lhes seja atribuída mesmo que a operação tenha sido autorizada pelo cliente, especialmente se houver um desvio extremo de seus hábitos.

Modos de enfrentamento: como nos proteger em um mundo de falsificação?

Considerando que a tecnologia avança rapidamente, pode-se examinar algumas ferramentas de defesa práticas para adoção em nível pessoal e familiar:

1. Senha familiar

Estabelecer uma palavra ou frase secreta entre os membros da família pode ser uma ferramenta eficaz. No caso de uma chamada de socorro envolvendo um pedido financeiro, pode-se solicitar a palavra de código que não é conhecida pelos modelos de inteligência artificial.

2. Verificação em canal alternativo

No caso de uma chamada suspeita, recomenda-se desligar e entrar em contato por iniciativa própria com a pessoa em questão através do número de telefone salvo. Esta ação contorna tentativas de falsificação de número (Spoofing).

3. "Teste de vivacidade" (Liveness Check)

Em chamadas de vídeo, pode-se pedir à outra parte que realize uma ação física incomum. Algoritmos de Deepfake podem encontrar dificuldades ao processar movimentos bruscos ou ocultação do rosto em tempo real.

4. Redução da exposição de voz na rede

Recomenda-se estar ciente de que informações de voz carregadas em redes sociais podem ser usadas como matéria-prima. Definir perfis como privados e ter bom senso ao compartilhar amostras de voz podem reduzir o risco.

Aspectos jurídicos e conclusão

O combate às fraudes por IA exige uma atualização constante da interpretação jurídica. Existe uma posição profissional que sustenta que, em uma era de falsificação tecnológica tão avançada, não se pode esperar que a pessoa comum distinga sempre entre a realidade e a falsificação, e, portanto, o limiar de responsabilidade imposto ao cliente deve ser reexaminado.

Paralelamente, a questão da responsabilidade das empresas de tecnologia que desenvolvem essas ferramentas e a marcação de resultados de IA é uma frente jurídica que ocupará muito o sistema nos próximos anos.

O futuro apresenta novos desafios para a confiança humana. No próximo capítulo, examinaremos os efeitos do Deepfake no campo do vídeo e suas implicações jurídicas.