Capítulo 100: Deepfake e falsificação de vídeo — quando os olhos mentem

Por milhares de anos, a humanidade baseou-se no sentido da visão como a âncora definitiva da verdade. "Ver para crer", diz o antigo provérbio, refletindo nossa confiança absoluta de que, se vimos algo com nossos próprios olhos, isso necessariamente aconteceu. Nos tribunais, o testemunho ocular sempre foi considerado a "rainha das provas" e, na vida cotidiana, a capacidade de reconhecer rostos, captar expressões ou distinguir o tom de voz em um vídeo era a última barreira contra a fraude. Mas na era da inteligência artificial generativa (IA generativa), essa barreira não apenas rachou — ela foi estilhaçada em mil pedaços. Estamos entrando em uma era onde nossos próprios olhos se tornam a arma apontada contra nós.

Ao longo dos anos, e durante o trabalho profissional de um advogado que acompanha vítimas de golpes digitais, é possível ver como a tecnologia evolui em um ritmo estonteante. Se antigamente os golpistas precisavam se contentar com e-mails redigidos de forma desajeitada ou chamadas telefônicas com sotaque suspeito, hoje eles são capazes de criar uma realidade alternativa. O Deepfake (falsificação profunda) não é apenas mais um "aperfeiçoamento" da fraude; é um salto quântico. É o lugar onde algoritmos de aprendizado de máquina mapeiam rostos, movimentos labiais e nuances humanas para criar um vídeo de uma pessoa — às vezes alguém conhecido em seu círculo social ou um empregador — dizendo e fazendo coisas que nunca aconteceram. Este capítulo tem como objetivo ajudar na preparação para o momento em que a realidade pode se distorcer diante dos seus olhos.

O cenário a seguir é um exemplo educacional baseado em padrões comuns de fraude. Os personagens e eventos destinam-se apenas à ilustração.

Domingo de manhã, 08:30. Ronen, diretor financeiro de uma empresa, sentou-se diante do computador com sua primeira xícara de café do dia. Sua agenda estava cheia, mas uma mensagem de "urgente" que apareceu na sua caixa do Teams o fez saltar. Era o CEO da empresa, Gideon, que estava naquela semana em uma conferência no exterior. "Ronen, você está disponível para uma breve chamada de vídeo? Temos que fechar a aquisição da startup agora, caso contrário os perderemos", dizia a mensagem.

Ronen abriu a câmera e o rosto conhecido de Gideon apareceu na tela. Gideon parecia um pouco cansado — compreensível devido aos fusos horários — e a iluminação no quarto do hotel estava um pouco fraca. "Me ouve, Ronen?", perguntou Gideon com sua voz rouca conhecida. "Temos uma janela de oportunidade de duas horas. Os advogados exigem um adiantamento de 450.000 dólares em uma conta de custódia para garantir a oferta. Estou enviando os detalhes da conta por e-mail agora. Por favor, aprove a transferência imediatamente. Preciso voltar para a reunião."

Ronen percebeu que Gideon parecia tenso. Ele viu os movimentos característicos das mãos, a maneira como ele coçava a testa quando estava preocupado. "Gideon, este é um valor incomum para uma transferência sem dupla assinatura física", ousou dizer Ronen. Gideon suspirou na tela, sua expressão facial tornou-se um pouco impaciente. "Ronen, eu estou te vendo, você está me vendo. Eu estou autorizando isso aqui e agora. O conselho já foi atualizado em princípio. Se perdermos isso, a responsabilidade é sua. Estou enviando os detalhes." A chamada foi desconectada. Segundos depois, chegou o e-mail com os detalhes do banco.

O pressentimento de Ronen era desconfortável, mas ele viu o CEO. Ele o ouviu. Ronen realizou a transferência. Apenas à noite, quando enviou uma mensagem pessoal via WhatsApp para Gideon perguntando "como foi a reunião após a transferência?", veio a resposta arrepiante: "Que transferência? Não conversamos desde a manhã, estou em uma visita em outra fábrica."

Nesse cenário, a vítima não caiu em um erro humano comum, mas em uma chamada de vídeo Deepfake — uma das fraudes mais sofisticadas existentes hoje. Nesse método, golpistas coletam materiais visuais e de áudio da pessoa (entrevistas, podcasts, redes sociais) e os alimentam em um modelo de inteligência artificial que aprende a imitar seu rosto e voz em tempo real.

A tecnologia por trás da máscara: como funciona e por que acreditamos?

Para nos protegermos, devemos primeiro entender o mecanismo. A tecnologia de deepfake é baseada em redes adversárias generativas (GANs). Trata-se de dois algoritmos de inteligência artificial operando um contra o outro: um algoritmo (o "falsificador") cria uma imagem ou vídeo, enquanto o segundo algoritmo (o "crítico") tenta detectar se é uma falsificação. O processo se repete muitas vezes até que o produto se torne quase indistinguível da realidade.

O problema central é a psicologia humana. O cérebro é conectado para confiar no reconhecimento facial. Quando vemos traços conhecidos de uma pessoa próxima ou autoritária, nossos sistemas naturais de defesa podem relaxar. Os golpistas exploram isso com a adição de um elemento de urgência, que faz com que o foco mude para a resolução do problema em vez de avaliar a confiabilidade da fonte.

Além disso, a qualidade do deepfake melhorou consideravelmente. Antigamente, era possível notar "saltos" na imagem ou falta de coordenação, mas hoje a tecnologia permite a criação de uma figura digital que reage em tempo real. Em chamadas de vídeo onde a qualidade da conexão não é perfeita, é fácil disfarçar falhas técnicas como problemas comuns de comunicação.

A esfera jurídica: análise de responsabilidade em cenários de enganação

Quando fundos são transferidos como resultado de uma fraude de deepfake, surge a questão jurídica sobre quem recai a responsabilidade: sobre o pagador que realizou a ação ou sobre a instituição financeira que deveria proteger os fundos?

Em Israel, a estrutura normativa central é a Lei de Serviços de Pagamento, 2019. A lei regula a relação entre um cliente e um provedor de serviços de pagamento. Em caso de "uso indevido" de um meio de pagamento, a lei tende a proteger o cliente, mas as fraudes de deepfake apresentam um desafio único, pois a ação geralmente é realizada pelo próprio cliente sob falsa premissa.

Nesses casos, pode surgir um argumento por parte das instituições financeiras de que o cliente agiu com "negligência grave". Por outro lado, pode-se examinar o argumento jurídico de que o padrão de cuidado deve mudar de acordo com o desenvolvimento tecnológico. Se ferramentas que estão além da capacidade de percepção média são utilizadas, surge a questão de se é possível atribuir negligência grave à vítima.

Os tribunais podem examinar o "equilíbrio de culpa": a instituição financeira detectou atividade incomum? Os sistemas automáticos deveriam ter interrompido uma transferência de valor incomum para um destino de risco sem verificação humana? Existe a possibilidade de examinar a responsabilidade da instituição se for provado que medidas de precaução razoáveis não foram tomadas para evitar fraudes em uma era em que os riscos cibernéticos são conhecidos pelo sistema.

Além da Lei de Serviços de Pagamento, pode-se examinar causas na área de responsabilidade civil e contratos, como negligência de prestadores de serviços ou o nível de proteção organizacional. No entanto, a recuperação de fundos nesses casos é um processo complexo que depende das circunstâncias e do momento da detecção do golpe.

Violação de privacidade e roubo de identidade

Outro aspecto jurídico diz respeito à Lei de Proteção de Privacidade, 1981 e à Lei de Difamação. Criar um vídeo deepfake que atribui a uma pessoa coisas que não foram ditas pode ser considerado uma violação da privacidade e da reputação. Pode-se examinar opções jurídicas, como concorrência desleal ou violação da autonomia, e, às vezes, agir contra entidades que permitiram o vazamento das informações utilizadas para criar a falsificação.

Um abismo de desconfiança: possíveis consequências

O grande perigo do deepfake é o dano à confiança. Em uma situação onde é difícil confiar na visão, o tecido humano e empresarial pode ser prejudicado. Gestores podem suspeitar de instruções, e os tribunais terão que lidar com novos desafios probatórios sobre a autenticidade de evidências visuais.

No nível organizacional, pode-se considerar uma mudança para um modelo de "verificação baseada em protocolo". Assim como usamos assinaturas digitais, pode ser necessário verificar a identidade através de meios adicionais que não dependam apenas da aparência externa.

Como identificar o inidentificável? Sinais de alerta e métodos de defesa

Apesar da sofisticação da tecnologia, às vezes é possível notar sinais suspeitos se você mantiver a vigilância.

Possíveis sinais técnicos em uma chamada de vídeo:

• Piscar de olhos não natural: alguns modelos têm dificuldade em imitar o ritmo natural de piscar dos olhos humanos.
• Área da boca e dentes: falta de correspondência entre o movimento dos lábios e o som, ou borrão ao redor da boca ao falar rapidamente.
• Sombreamento e ângulo do rosto: uma falsificação que pode parecer "borrada" durante movimentos bruscos da cabeça ou falta de correspondência das sombras com a fonte de luz.
• Qualidade de áudio em comparação com o vídeo: combinação de voz de alta qualidade com vídeo que parece sintético ou de baixa qualidade.

Tática de defesa: código de verificação humano

Um método simples para lidar com isso é estabelecer uma "palavra-código" ou uma pergunta pessoal com familiares ou colegas, cuja resposta não esteja disponível na rede. Em caso de suspeita, pode-se fazer uma pergunta pessoal que apenas a outra parte deveria saber a resposta imediatamente.

Medidas recomendadas em caso de suspeita ou dano

Nesses casos, a velocidade da resposta é crítica:

1. Interrupção da comunicação: em caso de suspeita, recomenda-se encerrar a chamada imediatamente.
2. Verificação em canal separado: entrar em contato com a pessoa por outro meio de comunicação (chamada telefônica normal, mensagem em canal diferente).
3. Relato à instituição financeira: no caso de uma transferência ter sido realizada, deve-se entrar em contato imediatamente com a central do banco para analisar a possibilidade de cancelar ou interromper a transferência.
4. Documentação: salvaguarda de capturas de tela, detalhes de e-mail e qualquer outro detalhe técnico relacionado ao evento.
5. Relato às autoridades: apresentação de queixa na polícia (unidade cibernética) para fins de registro oficial.
6. Análise jurídica: recomenda-se examinar o caso com especialistas na área para entender as possibilidades de ação contra as instituições envolvidas.

Aspecto jurídico: resumo das opções

A situação jurídica está em processo de adaptação à nova realidade. Existem vários princípios jurídicos que podem ser examinados:

1. Dever de cuidado da instituição financeira

Pode-se examinar se a instituição financeira cumpriu seu dever de confiança e cuidado, e se mecanismos de verificação adequados foram ativados antes da execução de operações incomuns.

2. Exame do conceito de negligência

Pode-se argumentar que ceder a uma manipulação tecnológica avançada não equivale a "negligência grave", uma vez que se trata de uma representação destinada a enganar até mesmo uma pessoa razoável e cautelosa.

3. Cobertura de seguro

No caso de organizações, pode-se examinar se as apólices de seguro cibernético existentes cobrem incidentes de engenharia social baseados em tecnologia.

Em conclusão, em uma era em que os olhos podem enganar, deve-se confiar em processos de verificação, pensamento crítico e proteções jurídicas. A realidade exige que aprendamos a verificar o que vemos e a agir com as ferramentas profissionais à nossa disposição para proteger nossos direitos.

Sinais de alerta (Checklist):

• Pedido urgente de transferência de fundos em uma chamada de vídeo não planejada.
• Distorções visuais ou "glitches" na área do rosto e dos olhos.
• Entonação de voz que parece uniforme ou robótica demais.
• Dificuldade da outra parte em responder a perguntas pessoais espontâneas.
• Endereços de e-mail com alterações mínimas destinadas a enganar.

O que fazer imediatamente?

• Encerrar a chamada e verificar com a pessoa em um canal de comunicação separado.
• Notificar os departamentos de segurança ou finanças da organização.
• Contato urgente com o banco para analisar possibilidades de cancelamento de transferências.
• Exame das possibilidades jurídicas em relação à responsabilidade das partes envolvidas.

Aspecto jurídico central:

A Lei de Serviços de Pagamento concede proteção ao cliente, e a chance de recuperação de fundos depende em grande parte das circunstâncias do caso e se o caso será classificado como negligência. Recomenda-se analisar cada caso individualmente em relação às disposições legais atuais.