Глава 99: Искусственный интеллект и подделка голоса — следующее поколение мошенничества

Следующий сценарий является учебным примером, основанным на распространенных схемах мошенничества. Персонажи и события предназначены исключительно для иллюстрации.

Было три часа ночи, когда телефон на прикроватной тумбочке Мирьям ожил резким криком. В полной темноте спальни в Хайфе этот звук всегда казался сигналом тревоги. Мирьям, пенсионерка министерства просвещения, чей ум остается острым как бритва даже после глубокого сна, протянула дрожащую руку. На экране высветилось имя ее старшего сына, Дорона.

«Мама? Мама, ты слышишь меня?» Голос на том конце был сдавленным, дрожащим, сопровождаемым фоновыми звуками оживленного дорожного движения и завывающего ветра. Это был Дорон. Ошибки быть не могло. Интонация, манера произносить слово «мама», легкое окончание в конце предложения — все было там. Это был голос, который она знала с момента его появления на свет.

«Дорон? Что случилось? Почему ты звонишь в такое время?» Ее сердце забилось чаще.

«Мама, произошла авария. Я... я сбил кого-то. Я в полицейском участке в Афинах. У меня отобрали паспорт. Мама, мне страшно, они говорят, что если я не заплачу залог сейчас, в течение часа, меня переведут в центральный изолятор. Мне нужно, чтобы ты помогла мне. Я отправлю тебе ссылку на оплату, пожалуйста, не говори Михаль, я не хочу пугать ее, пока все не решится».

Мирьям не колебалась. Она не была «наивной старушкой» из тех, что фигурируют в статьях с предостережениями о мошенничестве. Она пользовалась банковскими приложениями, читала газеты, знала, что в мире есть мошенники. Но это был Дорон. Она слышала страх в его голосе. Она слышала его прерывистое дыхание. Через несколько минут она перевела значительную сумму через службу быстрых международных денежных переводов, точно следуя инструкциям, полученным в сообщении WhatsApp, отправленном с его номера.

Только утром, когда она позвонила своей невестке Михаль, чтобы спросить, «есть ли новости», выяснилась катастрофа. Дорон всю ночь спал в своей кровати в Тель-Авиве. Его никогда не было в Греции на той неделе. Его телефон не был физически взломан. Голос, который она слышала? Он никогда не исходил из горла ее сына. Он был создан компьютерным процессором, продуктом алгоритма искусственного интеллекта, который изучил голос Дорона по короткому видеоролику, который тот загрузил в социальные сети всего за несколько дней до этого.

Приведенный выше сценарий является учебным примером, основанным на распространенных схемах мошенничества, которые происходят сегодня в мире и начинают проникать в Израиль. Персонажи и события предназначены исключительно для иллюстрации технологии и эмоциональной манипуляции.

Новая эра: когда уши становятся врагом

Мы стоим на пороге эпохи, в которой наше самое базовое доверие — способность узнавать близких по голосу — находится под атакой. Если в прошлом мошенничества основывались на безграмотных текстах в электронных письмах или телефонных звонках мошенников, выдающих себя за представителей банка с чужим акцентом, то следующее поколение мошенничества использует технологию искусственного интеллекта (ИИ).

Технология клонирования голоса (Voice Cloning) совершила значительный скачок. За время своей профессиональной деятельности автор сталкивался с разнообразными случаями использования цифрового пространства в злонамеренных целях, но сегодня, похоже, достаточно нескольких секунд записи голоса. Короткое видео в сети, голосовое сообщение в группе или интервью — все это «сырье» для цифровых преступников. Они вводят запись в модель искусственного интеллекта, и та способна воспроизвести любую фразу, которую они пожелают, сохраняя уникальные характеристики говорящего.

Самая большая проблема мошенничества такого типа — это крах наших психологических защитных механизмов. Человеческий мозг настроен реагировать на знакомые голоса. Когда мы слышим близкого человека в беде, мгновенная эмоциональная реакция может заглушить логическое суждение, которое должно вызвать подозрение относительно характера просьбы.

В этой главе, как части обзора будущего мира мошенничества, мы проанализируем технологические механизмы и правовые возможности борьбы с ИИ-мошенничеством. Мы рассмотрим трудности, которые эти случаи создают для банковской системы, и то, как израильское право, и особенно Закон о платежных услугах, справляется с быстро развивающейся технологией.

Механика фальсификации: как работает мошенничество с голосовыми дипфейками

Чтобы понять возникающую здесь правовую сложность, нам нужно сначала понять технический процесс. Голосовое мошенничество — это не просто «имитация», а синтез. Преступники используют передовое программное обеспечение и генеративные модели, которые воспроизводят текст голосом жертвы с высокой точностью.

Что делает это мошенничество особенно эффективным, так это сопровождающая его «социальная инженерия» (Social Engineering). Во многих случаях мошенники проводят предварительное исследование на основе открытых источников (OSINT). Они могут знать, кто члены семьи, где они путешествуют и каков их стиль речи. Точность в мелких деталях возводит стену доверия, которую трудно разрушить в режиме реального времени.

На протяжении своей профессиональной деятельности, на протяжении многих лет, адвокат сталкивался с объяснениями пострадавших, которые спрашивали: «Как мы могли знать?». Профессиональный анализ показывает, что с помощью только человеческих средств порой практически невозможно распознать фальсификацию в режиме реального времени из-за уровня технологий и давления, оказываемого на жертву.

Еще одним аспектом этой технологии является способность подделывать номер телефона, с которого осуществляется звонок (спуфинг). Сочетание знакомого определителя номера и знакомого голоса представляет собой серьезный вызов для любого разумного механизма предосторожности.

Юридическая ответственность в мире поддельных личностей

Когда средства переводятся в результате обмана, возникает вопрос ответственности финансовых организаций. Основным законом, применимым в таких случаях в Израиле, является Закон о платежных услугах, 2019 года. Этот закон применяется к широкому спектру платежных средств и устанавливает фундаментальный принцип ответственности за «несанкционированную транзакцию», за исключением определенных случаев.

Здесь кроется сложный юридический вопрос: считается ли ИИ-мошенничество «платежной операцией, которая не была санкционирована»?

В сценариях, где клиент сам физически совершает операцию из-за введения в заблуждение, финансовая организация может утверждать, что речь идет об исполнении распоряжения клиента и что ответственность за внешнее мошенничество не ложится на ее плечи. С другой стороны, можно рассмотреть обязанность банка проявлять осторожность и необходимость внедрения систем мониторинга, способных выявлять экстремальные поведенческие аномалии.

Статья 25 Закона о платежных услугах касается ответственности за несанкционированное использование. Закон устанавливает, что если клиент действовал с «намерением обмануть» или «грубой неосторожностью», он может нести ответственность за ущерб. Захватывающий юридический вопрос заключается в том, что такое «грубая неосторожность» в эпоху, когда технологическая фальсификация практически совершенна. Является ли доверие голосу члена семьи такой неосторожностью? В судах можно рассмотреть, имел ли разумный человек способ узнать, что речь идет о мошенничестве, исходя из обстоятельств дела.

Важно понимать, что в случаях, когда клиент введен в заблуждение для совершения операции («Authorized Push Payment fraud»), юридическая ситуация сложнее, чем при обычном мошенничестве с кредитными картами. Необходимо в каждом конкретном случае рассматривать, соблюдал ли банк свои процедуры, игнорировал ли он предупреждающие знаки и адаптированы ли системы безопасности к современным угрозам. Существует возможность рассмотрения юридической ответственности, если будет доказано, что финансовая организация не выполнила свою обязанность в качестве стража.

Точка кризиса: когда технология побеждает доверие

Ущерб от мошенничества с искусственным интеллектом выходит за рамки финансового; он психологический и глубокий. Многие пострадавшие описывают чувство потери доверия к своим самым базовым чувствам. Этот кризис ведет к пониманию того, что традиционные методы защиты требуют обновления.

В мире существуют случаи, иллюстрирующие масштаб опасности, такие как денежные переводы значительных размеров, совершенные после полностью сфальсифицированных видеозвонков. В такой реальности юридическая ответственность становится сложной проблемой: можно ли вменять вину человеку, который поверил в реальность, которая выглядела и звучала абсолютно достоверно?

Анализ правовых тенденций показывает, что иногда суды рассматривают, кто является «наиболее дешевым предотвратителем ущерба». Поскольку финансовые организации имеют технологические инструменты для выявления аномальных паттернов, вполне вероятно, что в определенных случаях на них будет возложена ответственность, даже если операция была одобрена клиентом, особенно если речь идет об экстремальном отклонении от его привычек.

Способы борьбы: как защитить себя в мире подделок?

В свете того, что технологии развиваются стремительно, можно рассмотреть несколько практических инструментов защиты для внедрения на личном и семейном уровне:

1. Семейное кодовое слово

Установление секретного слова или фразы между членами семьи может быть эффективным инструментом. В случае экстренного звонка, связанного с финансовой просьбой, можно запросить кодовое слово, которое неизвестно моделям искусственного интеллекта.

2. Верификация по другому каналу

В случае подозрительного звонка рекомендуется положить трубку и связаться по собственной инициативе с обсуждаемым человеком через сохраненный номер телефона. Это действие обходит попытки подделки номера (спуфинг).

3. «Проверка на признаки жизни» (Liveness Check)

В видеозвонках можно попросить другую сторону выполнить нетипичное физическое действие. Алгоритмы дипфейков могут столкнуться с трудностями при обработке резких движений или прикрытии лица в режиме реального времени.

4. Сокращение голосового воздействия в сети

Рекомендуется осознавать, что голосовая информация, загружаемая в социальные сети, может быть использована в качестве сырья. Настройка профилей как частных и осмотрительность при обмене записями голоса могут снизить риск.

Юридические аспекты и заключение

Борьба с ИИ-мошенничеством требует постоянного обновления юридической интерпретации. Существует профессиональная позиция, согласно которой в эпоху столь передовой технологической фальсификации нельзя ожидать, что разумный человек всегда сможет отличить реальность от подделки, и поэтому необходимо пересмотреть порог ответственности, возлагаемой на клиента.

В то же время вопрос ответственности технологических компаний, разрабатывающих эти инструменты, и маркировка продуктов ИИ — это правовой фронт, который будет сильно занимать систему в ближайшие годы.

Будущее ставит новые вызовы перед человеческим доверием. В следующей главе мы рассмотрим влияние дипфейков в области видео и его юридические последствия.