Глава 101: Автономные агенты и персонализированные мошенничества — цифровой охотник, который никогда не спит
На протяжении многих лет мир цифрового мошенничества напоминал широкую рыболовную сеть, заброшенную в море в надежде хоть что-то поймать. Письма от «нигерийского принца», SMS-сообщения о посылке, задержанной на почте, или поддельные ссылки на банковские сайты — все они были шаблонными, зачастую написанными на корявом языке и рассылались многим людям одновременно по принципу «авось получится». Тот, кто был бдителен, кто проявлял элементарную осторожность, легко избегал этой сети. Но если взглянуть на подделки голоса и видео, можно заметить гораздо более тихую и опасную революцию: переход от «рыболовства в сети» к «охоте с гарпуном, оснащенным лазерным наведением».
Знакомьтесь: автономные агенты. Это не просто боты, реагирующие на ключевые слова, а программы на базе искусственного интеллекта, способные ставить перед собой цели, планировать стратегию, собирать информацию из любого уголка сети и поддерживать отношения, длящиеся неделями и месяцами — и все это без участия человека на другом конце. Если раньше мошеннику требовалось тратить время и энергию, чтобы обмануть конкретную жертву (то, что в профессиональной среде называется целевым фишингом или Spear Phishing), то сегодня автономный агент может делать это для многих пострадавших одновременно, с уровнем точности и манипуляции, который раньше был доступен только квалифицированным разведчикам.
В этой главе мы проанализируем данную технологию, поймем, как она может влиять на механизмы психологической защиты, и рассмотрим правовые инструменты, которые могут быть доступны пострадавшим, когда противником выступает код, предназначенный для хищения денежных средств.
Следующий сценарий является учебным примером, основанным на распространенных паттернах мошенничества. Персонажи и события приведены исключительно в иллюстративных целях.
Случай Йорама: когда алгоритм становится доверенным лицом
Йорам (имя вымышленное), 54 года, вице-президент по операциям в крупной логистической компании, считается рассудительным человеком. Он не переходит по подозрительным ссылкам, использует двухфакторную аутентификацию во всех своих аккаунтах и строго придерживается правил банковской безопасности. Однажды утром он получил сообщение в LinkedIn от женщины по имени «Наама Леви», которая представилась рыночным аналитиком в сфере цепочек поставок. Ее профиль выглядел убедительно: профессиональная фотография (созданная ИИ, но распознать это было сложно), рекомендации от коллег по отрасли и список публикаций.
«Здравствуйте, Йорам», — написала Наама. — «Я прочитала интервью, которое вы дали "Калькалист" в прошлом месяце о дефиците сырья. Ваш анализ ситуации в портах Востока был захватывающим. Я работаю над похожим исследованием и была бы рада услышать ваше мнение по определенному вопросу».
Йораму было приятно. Разговор развивался медленно. В течение трех недель «Наама» ни о чем не просила. Она присылала Йораму релевантные статьи, задавала профессиональные вопросы и демонстрировала глубокие знания. Она знала, когда он уходит в отпуск (информация была опубликована в сети), она знала имена его детей (из старого поста в социальной сети), и всегда писала на грамотном и деловом иврите. Чего Йорам не мог знать, так это того, что «Наама» — это возможный сценарий работы автономного агента: изощренный скрипт, подключенный к большой языковой модели (LLM), сканирующий в реальном времени цифровой след, чтобы построить эмоциональную манипуляцию.
Кризис наступил во вторник вечером. Наама прислала взволнованное сообщение в WhatsApp: «Йорам, я в ужасе. Мой стартап выиграл государственный тендер, но из-за технического сбоя при переводе из-за границы наши гарантии не прошли, и тендер будет аннулирован завтра утром. Мне не хватает 150 тысяч шекелей всего на 48 часов. Я не смею просить, но вы единственный человек из этой сферы, которому я доверяю. У меня есть все документы, подтверждающие победу».
Она прислала PDF-файлы, которые выглядели официальными. Йорам, который чувствовал, что знает Нааму уже месяц и видит в ней коллегу, не заподозрил подвоха. Он перевел деньги банковским переводом на указанный ею счет. На следующее утро профиль Наамы в LinkedIn исчез, номер WhatsApp был отключен, а деньги прошли через цепочку быстрых переводов, пока не превратились в криптовалюту.
В такой ситуации, когда пострадавший обращается за юридической консультацией, он может выразить глубокое разочарование и недоумение по поводу того, как машине удалось столь убедительно имитировать личность человека, используя точную личную и профессиональную информацию.
Эволюция ловушки: от метода «сети» к методу автономного «гарпуна»
Переход от статики к динамике
Фундаментальное различие между мошенничеством прошлого и деятельностью автономных агентов заключается в динамичности. Раньше мошенник готовил поддельную «посадочную страницу» и ждал. Сегодня автономный агент активен и реагирует на ответы жертвы. Если жертва выражает сомнение, агент может изменить тактику. Если жертва задает сложный вопрос, агент способен найти информацию и сформулировать убедительное объяснение за считанные секунды.
Сбор информации (OSINT) на основе искусственного интеллекта
Автономные агенты чаще всего действуют, используя «разведку по открытым источникам». Они сканируют социальные сети, блоги, комментарии на форумах и даже бизнес-реестры. Цель — составить психологический профиль: каковы уязвимости цели? Каковы ее амбиции? Агент подстраивает «наживку» индивидуально, что делает мошенничество крайне трудным для выявления.
Электронное терпение
В отличие от человека, который может проявлять нетерпение, автономный агент может ждать очень долго. Он может вести «светскую беседу» месяцами, отмечать личные даты и присылать полезный контент, лишь бы создать доверие, необходимое для момента, когда поступит финансовая просьба. Это терпение направлено на нейтрализацию естественной первичной подозрительности.
Машина за маской: как автономные агенты меняют правила игры
С технической точки зрения автономные агенты работают в циклах обратной связи. Злоумышленник может поставить общую задачу получения финансовой выгоды от определенной целевой аудитории, а агент действует автономно:
- Разбиение на задачи: Агент выявляет список целей, создает убедительную личность и устанавливает первичный контакт.
- Исполнение: Использование цифровых инструментов для поиска целей, создание биографии с помощью ИИ и отправка персонализированных обращений.
- Обучение и адаптация: Анализ ответов и улучшение подхода в зависимости от взаимодействия с целью.
Способность осуществлять «масштабную атаку путем имитации» (Mass Personalization) является одной из самых значительных угроз сегодня. Отдельный сервер может одновременно запускать множество таких агентов, каждый из которых ведет уникальную коммуникацию с разной целью.
Мошенничество типа «забой свиней» (Pig Butchering) в автономную эпоху
Этот вид мошенничества основан на постепенном выстраивании доверия и ожидании прибыли. Автономные агенты могут направлять пострадавших открывать счета на фиктивных инвестиционных платформах, показывать несуществующую прибыль и даже позволять снимать небольшие суммы в начале, чтобы укрепить доверие — все это в рамках автоматизированного процесса.
Юридическая борьба в цифровом тумане: ответственность банков и финансовых организаций в эпоху ИИ
Центральный вопрос, возникающий в этих случаях, — это вопрос ответственности за потерю средств. В мире автономных агентов ответ требует изучения действующего законодательства Израиля.
Закон о платежных услугах, 2019 г.
Этот закон определяет распределение ответственности между клиентом и финансовым органом в случае «несанкционированной транзакции» или злоупотребления платежным средством. Как правило, при действии, совершенном без согласия клиента, ответственность несет финансовый орган. Однако когда клиент осуществляет перевод самостоятельно из-за манипуляции, правовая ситуация становится более сложной.
В таких ситуациях возникает вопрос о повышенной обязанности проявлять осторожность со стороны банка. Можно рассмотреть, обязан ли банк выявлять аномальные паттерны. Если системы не распознали значительный перевод в пользу контрагента, с которым ранее не было отношений, как подозрительное событие, возможно, можно будет рассмотреть ответственность финансового учреждения в данных обстоятельствах.
Вопрос «грубой неосторожности»
Закон может освободить финансовый орган от ответственности, если клиент действовал с «грубой неосторожностью». Юридический вопрос заключается в том, является ли таковой неосторожностью становление жертвой изощренного автономного агента, имитирующего личность человека в течение долгого времени. Существует профессиональная позиция, согласно которой по мере совершенствования технологий планка ожиданий от разумного человека может меняться, и необходимо оценивать уровень защиты, требуемый от финансовых учреждений, в противовес манипуляциям на базе передовых технологий.
Ответственность цифровых платформ
Еще один юридический вопрос касается ответственности социальных сетей, которые допускают активность автономных агентов. Несмотря на широкую защиту, существующую для платформ в отношении пользовательского контента, можно рассмотреть правовые возможности в случаях, когда платформа не приняла меры после предупреждения или когда алгоритм рекомендаций способствовал созданию первичного контакта.
Предупреждающие знаки: как выявить автономного агента до того, как он атакует
Несмотря на изощренность, иногда можно обнаружить трещины в цифровой личности автономных агентов:
- Скорость реакции: Очень быстрый ответ на длинные и сложные сообщения в любое время суток, что не всегда выглядит естественно.
- Эмоциональные и коммуникативные нюансы: ИИ-агентам может быть трудно распознать циничные шутки, тонкий сарказм или очень специфические культурные намеки.
- Избегание встреч: Постоянные оправдания по поводу невозможности провести живую видеовстречу или встретиться лично.
- Изменение характера отношений: Отношения, выстраивавшиеся долгое время без личной встречи, которые внезапно переходят к просьбам финансового характера.
- Характеристики профиля: Искусственно выглядящие фотографии, отсутствие естественного социального взаимодействия или список контактов, который кажется случайным.
Возможные шаги в случае подозрения на мошенничество
- Прекращение коммуникации: Немедленный разрыв контакта с подозрительным лицом, чтобы предотвратить дальнейшие манипуляции.
- Документирование: Сохранение скриншотов разговоров, профилей и документов, так как эта информация может быть удалена другой стороной.
- Обращение в банк: Срочный контакт с службой безопасности банка для рассмотрения возможности остановки операций, насколько это возможно в данных обстоятельствах.
- Отчет властям: Подача жалобы с указанием подозрения на использование технологии искусственного интеллекта, что помогает в квалификации события.
- Юридическая проверка: Оценка выполнения финансовым учреждением своих обязательств и наличия оснований для попытки возврата средств.
Юридический аспект: ответственность и возмещение
В случаях персонализированных мошенничеств юридический путь рассматривается в соответствии со специфическими обстоятельствами каждого дела.
Аспект профессиональной ответственности: Если мошенничество было совершено с использованием данных, утечка которых произошла у работодателя или поставщика услуг, можно рассмотреть ответственность в соответствии с законом о защите частной жизни.
Обязанность раскрытия информации и предупреждения: Существует юридический подход, согласно которому суды могут рассмотреть, предоставлял ли банк достаточные предупреждения в реальном времени. Общий юридический анализ показывает, что при определенных обстоятельствах, если финансовое учреждение осведомлено о распространенных паттернах мошенничества и не предупреждает клиента, совершающего похожую операцию, это может быть рассмотрено через призму деликатного права (деликтное право/халатность).
В заключение, в эпоху обучающихся технологий лучшая защита сочетает в себе осведомленность и осторожность вместе с отстаиванием правовых интересов. В ходе многолетней профессиональной работы возникает необходимость рассмотреть, как правовая система адаптируется к этой меняющейся реальности, чтобы гарантировать максимальную защиту общества.
1544 Слова · 8 мин чтения