Глава 100: Дипфейк и подделка видео — когда глаза обманывают

На протяжении тысяч лет человечество полагалось на зрение как на окончательный критерий истины. «Лучше один раз увидеть, чем сто раз услышать» — гласит древняя пословица, отражающая нашу абсолютную уверенность в том, что если мы что-то видели собственными глазами, это обязательно произошло. В судах свидетельские показания всегда считались «королевой доказательств», а в повседневной жизни способность распознавать лица, считывать выражения или улавливать интонацию голоса в видео была последним барьером на пути мошенничества. Но в эпоху генеративного искусственного интеллекта (Generative AI) этот барьер не просто дал трещину — он разлетелся вдребезги. Мы входим в эру, когда наши собственные глаза превращаются в оружие, направленное против нас.

На протяжении многих лет, в ходе профессиональной деятельности адвоката, сопровождающего жертв цифрового мошенничества, видно, как технология развивается с пугающей скоростью. Если раньше мошенникам приходилось довольствоваться нелепо составленными электронными письмами или телефонными звонками с подозрительным акцентом, то сегодня они способны создавать альтернативную реальность. Дипфейк (глубокая подделка) — это не просто очередное «улучшение» мошенничества; это квантовый скачок. Это область, где алгоритмы машинного обучения сопоставляют лица, движения губ и человеческие нюансы, чтобы создать видео с человеком — зачастую известным окружающим или работодателем, — который говорит и делает вещи, никогда не происходившие в реальности. Эта глава призвана подготовить вас к моменту, когда реальность может исказиться прямо у вас на глазах.

Следующий сценарий является учебным примером, основанным на распространенных моделях мошенничества. Персонажи и события приведены исключительно в иллюстративных целях.

Воскресное утро, 08:30. Ронен, финансовый директор компании, сел за компьютер с первой чашкой кофе. Его календарь был переполнен, но сообщение «Срочно», появившееся в его Teams, заставило его насторожиться. Это был генеральный директор компании, Гидеон, который на той неделе находился на конференции за границей. «Ронен, ты доступен для короткого видеозвонка? Мы должны закрыть сделку по приобретению стартапа сейчас, иначе мы их упустим», — гласило сообщение.

Ронен включил камеру, и знакомое лицо Гидеона появилось на экране. Гидеон выглядел немного уставшим — логично, учитывая разницу во времени, — и освещение в его гостиничном номере было слегка приглушенным. «Слышишь меня, Ронен?» — спросил Гидеон своим узнаваемым хриплым голосом. «У нас есть окно возможностей в два часа. Адвокаты требуют аванс в размере 450 000 долларов на доверительный счет, чтобы удержать предложение. Я отправляю тебе детали счета по электронной почте прямо сейчас. Пожалуйста, подтверди перевод немедленно. Я должен вернуться на совещание».

Ронен заметил, что Гидеон выглядит обеспокоенным. Он видел его характерные движения рук, то, как он чесал лоб, когда был встревожен. «Гидеон, это необычная сумма для перевода без физической двойной подписи», — рискнул сказать Ронен. Гидеон вздохнул на экране, выражение его лица стало слегка нетерпеливым. «Ронен, я вижу тебя, ты видишь меня. Я подтверждаю тебе это здесь и сейчас. Совет директоров уже был проинформирован в принципе. Если мы упустим это, ответственность на тебе. Я отправляю детали». Звонок прервался. Через несколько секунд пришло письмо с реквизитами банка.

У Рона был неприятный осадок, но он видел генерального директора. Он слышал его. Ронен совершил перевод. Лишь вечером, когда он отправил личное сообщение в WhatsApp Гидеону с вопросом: «Как прошло совещание после перевода?», пришел леденящий кровь ответ: «Какой перевод? Мы не говорили с утра, я вообще на экскурсии на другом заводе».

В этом сценарии жертва попала не в обычную человеческую ошибку, а стала объектом видеозвонка с использованием дипфейка — одного из самых изощренных видов мошенничества на сегодняшний день. При этом методе злоумышленники собирают визуальные и аудиоматериалы человека (интервью, подкасты, социальные сети) и загружают их в модель искусственного интеллекта, которая учится имитировать его лицо и голос в реальном времени.

Технология за маской: как это работает и почему мы верим?

Чтобы защититься, мы должны сначала понять механизм. Технология дипфейка основана на генеративно-состязательных сетях (GANs). Речь идет о двух алгоритмах искусственного интеллекта, работающих друг против друга: один алгоритм («фальсификатор») создает изображение или видео, в то время как второй алгоритм («критик») пытается определить, является ли это подделкой. Процесс повторяется многократно, пока продукт не становится почти неотличимым от реальности.

Центральная проблема — человеческая психология. Мозг запрограммирован доверять распознаванию лиц. Когда мы видим знакомые черты близкого или авторитетного человека, наши естественные защитные механизмы могут ослабнуть. Мошенники используют это, добавляя элемент срочности (Urgency), который переносит фокус на решение проблемы вместо оценки достоверности источника.

Более того, качество дипфейков значительно улучшилось. Раньше можно было заметить «скачки» в изображении или рассинхронизацию, но сегодня технология позволяет создавать цифровой аватар, реагирующий в реальном времени. В видеозвонках, где качество соединения не идеально, легко замаскировать технические дефекты под обычные проблемы со связью.

Правовая арена: анализ ответственности в сценариях обмана

Когда средства переводятся в результате мошенничества с дипфейком, возникает юридический вопрос о том, на ком лежит ответственность: на плательщике, который совершил действие, или на финансовой организации, которая должна защищать средства?

В Израиле центральной нормативной базой является Закон об услугах по оплате, 2019 года. Закон регулирует отношения между клиентом и поставщиком платежных услуг. В случае «неправомерного использования» платежного средства закон склоняется к защите клиента, но мошенничество с дипфейками ставит уникальную задачу, поскольку действие чаще всего выполняется самим клиентом под воздействием обманного представления.

В этих случаях финансовые организации могут выдвинуть аргумент, что клиент действовал по «грубой неосторожности». Напротив, можно рассмотреть правовой аргумент о том, что стандарт осторожности должен меняться в соответствии с технологическим развитием. Если применяются инструменты, превосходящие возможности восприятия среднего человека, возникает вопрос, можно ли вменять жертве грубую неосторожность.

Суды могут рассмотреть «баланс вины»: обнаружила ли финансовая организация необычную активность? Должны ли автоматизированные системы остановить перевод необычной суммы на рискованный адрес без человеческой проверки? Существует возможность рассмотреть ответственность учреждения, если будет доказано, что не были приняты разумные меры предосторожности для предотвращения мошенничества в эпоху, когда киберриски известны системе.

Помимо закона об услугах по оплате, можно изучить основания из области деликтов и договорного права, такие как халатность поставщиков услуг или уровень организационной защиты. Однако возврат средств в таких случаях — сложный процесс, зависящий от обстоятельств и времени выявления обмана.

Нарушение конфиденциальности и подделка личности

Еще один правовой аспект касается Закона о защите конфиденциальности, 1981 года и Закона о запрете клеветы. Создание видео с дипфейком, приписывающее человеку вещи, которые не были сказаны, может считаться нарушением конфиденциальности и доброго имени. Можно рассмотреть юридические возможности, такие как недобросовестная конкуренция или нарушение автономии, и иногда действовать против сторон, которые допустили утечку информации, использованной для создания подделки.

Бездна недоверия: возможные последствия

Главная опасность дипфейков — подрыв доверия. В ситуации, когда трудно положиться на увиденное, может пострадать человеческая и деловая ткань общества. Руководители могут подозревать приказы, а суды будут вынуждены столкнуться с новыми доказательными вызовами относительно подлинности визуальных улик.

На организационном уровне можно рассмотреть переход к модели «протокольного подтверждения». Подобно тому, как используются цифровые подписи, может потребоваться подтверждение личности дополнительными средствами, которые не зависят только от внешнего облика.

Как распознать то, что распознать невозможно? Предупреждающие знаки и способы защиты

Несмотря на совершенствование технологии, иногда можно заметить подозрительные признаки, если сохранять бдительность.

Возможные технические признаки во время видеозвонка:

• Неестественное моргание: некоторые модели с трудом имитируют естественный человеческий ритм моргания.
• Область рта и зубов: несоответствие между движением губ и звуком или размытость вокруг рта во время быстрой речи.
• Тени и угол наклона лица: подделка, которая может выглядеть «размытой» при резких движениях головы, или несоответствие теней источнику света.
• Качество звука по сравнению с видео: сочетание звука высокого качества с видео, которое кажется синтетическим или низкого качества.

Тактика защиты: кодовое слово для проверки человека

Простой метод борьбы — установление «кодового слова» или личного вопроса с членами семьи или коллегами, ответ на который не находится в сети. В случае подозрений можно задать личный вопрос, ответ на который должна знать только вторая сторона.

Рекомендуемые шаги в случае подозрения или ущерба

В таких случаях скорость реакции критична:

1. Прекращение общения: в случае подозрений рекомендуется немедленно завершить разговор.
2. Подтверждение через другой канал: установление связи с человеком другим способом (обычный телефонный звонок, сообщение по другому каналу).
3. Отчет финансовой организации: если перевод был выполнен, необходимо немедленно обратиться в банковский центр для рассмотрения возможности отмены или остановки перевода.
4. Документирование: сохранение скриншотов, деталей электронной почты и любой другой технической информации, связанной с инцидентом.
5. Отчет властям: подача жалобы в полицию (киберподразделение) для официального документирования.
6. Правовая экспертиза: рекомендуется изучить дело с экспертами в данной области, чтобы понять варианты действий в отношении вовлеченных институтов.

Правовой аспект: резюме возможностей

Правовая ситуация находится в процессе адаптации к новой реальности. Существует ряд правовых принципов, которые можно изучить:

1. Обязательство по осторожности финансовой организации

Можно рассмотреть, соблюдала ли финансовая организация свое обязательство по доверию и осторожности, и были ли задействованы соответствующие механизмы проверки перед выполнением необычных операций.

2. Анализ понятия халатности

Можно утверждать, что поддача продвинутой технологической манипуляции не приравнивается к «грубой неосторожности», поскольку речь идет об образе, который призван ввести в заблуждение даже разумного и осторожного человека.

3. Страховое покрытие

В случае организаций можно изучить, покрывают ли существующие полисы киберстрахования случаи социальной инженерии на базе технологий.

В заключение, в эпоху, когда глаза могут обмануть, следует полагаться на процессы проверки, критическое мышление и правовую защиту. Реальность требует от нас научиться проверять то, что мы видим, и действовать с помощью профессиональных инструментов, находящихся в нашем распоряжении, чтобы защитить наши права.

Предупреждающие знаки (Checklist):

• Срочная просьба о переводе денег во время незапланированного видеозвонка.
• Визуальные искажения или «глюки» в области лица и глаз.
• Голосовая интонация, которая кажется слишком монотонной или роботизированной.
• Трудности второй стороны с ответом на спонтанные личные вопросы.
• Адреса электронной почты с незначительными изменениями, призванными ввести в заблуждение.

Что можно сделать немедленно?

• Завершение звонка и проверка связи с человеком через отдельный канал связи.
• Информирование сотрудников службы безопасности или финансового отдела в организации.
• Срочное обращение в банк для рассмотрения возможностей отмены переводов.
• Рассмотрение юридических возможностей относительно ответственности вовлеченных сторон.

Ключевой правовой аспект:

Закон об услугах по оплате предоставляет защиту клиенту, и шансы на возврат средств во многом зависят от обстоятельств дела и вопроса о том, будет ли случай классифицирован как халатность. Рекомендуется рассматривать каждый случай индивидуально в соответствии с актуальными положениями закона.