الفصل 99: الذكاء الاصطناعي وتزويف الصوت — الجيل القادم من الاحتيال

السيناريو التالي هو نموذج تعليمي يستند إلى أنماط احتيال شائعة. الشخصيات والأحداث لأغراض التوضيح فقط.

كانت الساعة تشير إلى الثالثة صباحًا عندما استيقظ هاتف مريم الموجود على المنضدة بجانب سريرها على رنين حاد. في ظلام غرفة النوم المطلق في حيفا، كان هذا الصوت يبدو دائمًا كإنذار حقيقي. مريم، وهي موظفة متقاعدة من وزارة التربية والتعليم وتتمتع بذهن حاد كالموس حتى من نومها العميق، مدت يدها وهي ترتجف. ظهر على الشاشة اسم ابنها الأكبر، دورون.

"ماما؟ ماما، هل تسمعينني؟" كان الصوت من الجانب الآخر مخنوقًا ومرتجفًا، ترافقه ضوضاء في الخلفية توحي بحركة مرور مزدحمة ورياح تعصف. كان هذا دورون. لا مجال للخطأ. نبرة الصوت، والطريقة التي نطق بها كلمة 'ماما'، والحرف الساكن الخفيف في نهاية الجملة — كل شيء كان موجودًا. لقد كان الصوت الذي تعرفه منذ أن أبصر النور.

"دورون؟ ماذا حدث؟ لماذا تتصل في مثل هذا الوقت؟" بدأ قلبها يخفق بجنون.

"ماما، وقع حادث. لقد... لقد صدمت شخصًا ما. أنا في مركز الشرطة في أثينا. أخذوا مني جواز سفري. ماما، أنا خائف، يقولون إنني إذا لم أدفع الكفالة الآن، خلال ساعة، فسوف ينقلونني إلى الحجز المركزي. أحتاج منك مساعدتي. سأرسل لك رابط دفع، من فضلك، لا تخبري ميخال، لا أريد إفزاعها حتى يحل الأمر."

لم تتردد مريم. لم تكن "مسنة ساذجة" من النوع الذي يظهر في التقارير التحذيرية من الاحتيال. كانت تستخدم تطبيقات مصرفية، وتقرأ الصحف، وتعلم بوجود محتالين في العالم. لكنه كان دورون. لقد سمعت الخوف في صوته. سمعت أنفاسه المتقطعة. في غضون دقائق، حولت مبلغًا كبيرًا عبر خدمة تحويل أموال دولية سريعة، تمامًا وفقًا للتعليمات التي تلقتها في رسالة الواتساب المرسلة من رقمه.

فقط في الصباح، عندما اتصلت بكنتها ميخال لتسأل "هل هناك أخبار جديدة"، انكشفت الكارثة. كان دورون نائمًا في سريره في تل أبيب طوال الليل. لم يكن أبدًا في اليونان ذلك الأسبوع. هاتفه لم يتعرض للاختراق جسديًا. الصوت الذي سمعته؟ لم يخرج أبدًا من حنجرة ابنها. بل تم إنشاؤه في معالج حاسوب، نتاج خوارزمية ذكاء اصطناعي تعلمت صوت دورون من مقطع فيديو قصير نشره على شبكات التواصل الاجتماعي قبل بضعة أيام.

السيناريو أعلاه هو نموذج تعليمي يستند إلى أنماط احتيال شائعة تحدث اليوم حول العالم وبدأت تتسلل إلى إسرائيل. الشخصيات والأحداث لأغراض التوضيح فقط للتكنولوجيا والتلاعب العاطفي.

العصر الجديد: عندما تصبح الآذان عدوًا

نحن نقف على أعتاب عصر أصبحت فيه ثقتنا الأساسية — القدرة على التعرف على أقاربنا من أصواتهم — تحت الهجوم. إذا كانت عمليات الاحتيال في الماضي تعتمد على نصوص ركيكة في رسائل البريد الإلكتروني أو مكالمات هاتفية من محتالين ينتحلون صفة موظفي بنك بصوت غريب، فإن الجيل القادم من الاحتيال يستخدم تكنولوجيا الذكاء الاصطناعي (AI).

حققت تكنولوجيا استنساخ الصوت (Voice Cloning) قفزة نوعية كبيرة. خلال عمله المهني، صادف المؤلف حالات متنوعة استُغل فيها الفضاء الرقمي بشكل سيء، ولكن يبدو أن ثوانٍ معدودة من عينة صوتية باتت تكفي حاليًا. مقطع فيديو قصير على الشبكة، رسالة صوتية في مجموعة، أو مقابلة — كل هذه "مواد خام" للمجرمين الرقميين. إنهم يغذون النموذج بالعينات، ويستطيع الذكاء الاصطناعي إنتاج أي جملة يريدونها، مع الحفاظ على الخصائص الفريدة للمتحدث.

التحدي الأكبر في هذا النوع من الاحتيال هو انهيار آليات الدفاع النفسي لدينا. فالعقل البشري مهيأ للاستجابة للأصوات المألوفة. عندما نسمع شخصًا قريبًا في مأزق، فإن الاستجابة العاطفية الفورية قد تُسكت التفكير المنطقي الذي يفترض أن يثير الشك حول طبيعة الطلب.

في هذا الفصل، وكجزء من عرض مستقبل عالم الاحتيال، سنحلل الآليات التكنولوجية والخيارات القانونية للتعامل مع عمليات الاحتيال بالذكاء الاصطناعي. وسندرس الصعوبات التي تثيرها هذه الحالات بالنسبة للنظام المصرفي، وكيف يتعامل القانون الإسرائيلي، وخاصة قانون خدمات الدفع، مع التكنولوجيا التي تتطور بسرعة.

ميكانيكا التزويف: هكذا يعمل احتيال التزييف العميق الصوتي

لفهم التعقيد القانوني الذي ينشأ هنا، يجب أن نفهم أولًا العملية التقنية. الاحتيال الصوتي ليس "تقليدًا" فحسب، بل هو تركيب. يستخدم المجرمون برمجيات متطورة ونماذج توليدية تنتج نصًا بصوت الضحية بدقة عالية.

ما يجعل عملية الاحتيال فعالة بشكل خاص هو "الهندسة الاجتماعية" (Social Engineering) المصاحبة لها. في كثير من الحالات، يقوم المحتالون بإجراء بحث مسبق من مصادر مفتوحة (OSINT). قد يعرفون من هم أفراد الأسرة، وأين يتنزهون، وما هو أسلوب حديثهم. الدقة في التفاصيل الصغيرة تبني جدارًا من المصداقية يصعب هدمه في الوقت الفعلي.

خلال عمله المهني، على مر السنين، صادف المحامي تفسيرات لضحايا سألوا "كيف كان بإمكاننا أن نعرف؟". يُظهر التحليل المهني أنه بالوسائل البشرية وحدها، يكون من المستحيل أحيانًا كشف التزويف في الوقت الفعلي بسبب مستوى التكنولوجيا والضغط الممارس على الضحية.

جانب آخر من هذه التكنولوجيا هو القدرة على تزويف رقم الهاتف الذي تُجرى منه المكالمة (Spoofing). إن الجمع بين رقم تعريف مألوف وصوت مألوف يشكل تحديًا كبيرًا لأي آلية حذر معقولة.

المسؤولية القانونية في عالم الهويات المزيفة

عندما تُحول الأموال نتيجة للاحتيال، تثار مسألة مسؤولية المؤسسات المالية. القانون الرئيسي المطبق في هذه الحالات في إسرائيل هو قانون خدمات الدفع، لسنة 2019. يسري هذا القانون على مجموعة واسعة من وسائل الدفع ويحدد مبدأ أساسيًا بشأن المسؤولية عن "الاستخدام غير المصرح به"، إلا في حالات معينة.

هنا تكمن قضية قانونية معقدة: هل يعتبر احتيال الذكاء الاصطناعي "عملية دفع غير مصرح بها"؟

في السيناريوهات التي يقوم فيها العميل فعليًا بتنفيذ العملية بسبب التضليل، قد تدعي المؤسسة المالية أن الأمر يتعلق بتنفيذ تعليمات العميل وأن المسؤولية عن احتيال خارجي لا تقع على عاتقها. في المقابل، يمكن فحص واجب الحذر لدى البنك وضرورة اعتماد أنظمة مراقبة قادرة على اكتشاف الشذوذ السلوكي المتطرف.

تتناول المادة 25 من قانون خدمات الدفع المسؤولية عن الاستخدام غير المشروع. ينص القانون على أنه إذا تصرف العميل بـ "نية احتيالية" أو "إهمال جسيم"، فقد يتحمل الضرر. السؤال القانوني المثير هو ما هو "الإهمال الجسيم" في عصر أصبح فيه التزويف التكنولوجي شبه كامل؟ هل الاعتماد على صوت أحد أفراد الأسرة يشكل إهمالًا كهذا؟ يمكن فحص ما إذا كان لدى الشخص العادي وسيلة لمعرفة أن الأمر يتعلق بعملية احتيال في ظروف القضية.

من المهم أن نفهم أنه في الحالات التي يتم فيها تضليل العميل لتنفيذ عملية ("الاحتيال عبر الدفع المدفوع والمصرح به")، يكون الوضع القانوني أكثر تعقيدًا من احتيال بطاقات الائتمان العادي. يجب فحص كل حالة على حدة ما إذا كان البنك قد التزم بإجراءاته، وما إذا كان قد تجاهل علامات التحذير، وما إذا كانت أنظمة الأمن ملائمة للتهديدات الحديثة. هناك إمكانية لفحص المسؤولية القانونية إذا ثبت أن المؤسسة المالية فشلت في أداء واجبها كحارس بوابة.

نقطة الأزمة: عندما تتفوق التكنولوجيا على الثقة

الضرر في عمليات الاحتيال بالذكاء الاصطناعي يتجاوز الخسارة المالية؛ إنه ضرر نفسي وعميق. يصف العديد من الضحايا شعورًا بفقدان الثقة في أكثر حواسهم أساسية. تؤدي هذه الأزمة إلى إدراك أن أساليب الحماية التقليدية تتطلب تحديثًا.

توجد حالات حول العالم تجسد حجم الخطر، مثل تحويلات مالية بمبالغ كبيرة نُفذت بعد مكالمات فيديو مزيفة تمامًا. في واقع كهذا، تصبح المسؤولية القانونية قضية معقدة: هل يمكن توجيه اللوم لشخص آمن بواقع بدا وبدا صوته موثوقًا تمامًا؟

يُظهر تحليل الاتجاهات القانونية أن المحاكم أحيانًا تبحث عمن هو "مانع الضرر الأقل تكلفة". ونظرًا لأن المؤسسات المالية تمتلك أدوات تكنولوجية للكشف عن الأنماط الشاذة، فقد تُحمل في بعض الحالات المسؤولية حتى لو تمت الموافقة على العملية من قبل العميل، خاصة إذا كان الأمر يتعلق بانحراف متطرف عن عاداته.

طرق التعامل: كيف نحمي أنفسنا في عالم التزويف؟

نظرًا لأن التكنولوجيا تتطور بسرعة، يمكن فحص عدد من أدوات الحماية العملية للاعتماد على المستوى الشخصي والعائلي:

1. كلمة سر عائلية

تحديد كلمة أو جملة سرية بين أفراد الأسرة قد يكون أداة فعالة. في حالة مكالمة استغاثة تتضمن طلبًا ماليًا، يمكن طلب كلمة السر التي لا تعرفها نماذج الذكاء الاصطناعي.

2. التحقق عبر قناة إضافية

في حالة إجراء مكالمة مشبوهة، يوصى بإنهاء المكالمة والتواصل بمبادرتك مع الشخص المعني عبر رقم الهاتف المحفوظ. هذا الإجراء يتجاوز محاولات تزويف الرقم (Spoofing).

3. "اختبار علامات الحياة" (Liveness Check)

في مكالمات الفيديو، يمكن طلب القيام بحركة جسدية غير معتادة من الطرف الآخر. قد تواجه خوارزميات التزييف العميق صعوبات في معالجة الحركات الحادة أو إخفاء الوجه في الوقت الفعلي.

4. تقليل التعرض الصوتي على الشبكة

يُنصح بالوعي بأن المعلومات الصوتية المرفوعة على شبكات التواصل الاجتماعي قد تُستخدم كمادة خام. تعيين الحسابات كخاصة والحذر في مشاركة عينات صوتية قد يقلل من المخاطر.

جوانب قانونية وخلاصة

تتطلب مكافحة الاحتيال بالذكاء الاصطناعي تحديثًا مستمرًا للتفسير القانوني. هناك موقف مهني يرى أنه في عصر التزويف التكنولوجي المتقدم للغاية، لا يمكن توقع أن يميز الشخص العادي دائمًا بين الواقع والتزويف، ولذلك يجب إعادة النظر في معيار المسؤولية المفروض على العميل.

في الوقت نفسه، تعتبر قضية مسؤولية شركات التكنولوجيا التي تطور هذه الأدوات ووسم منتجات الذكاء الاصطناعي واجهة قانونية ستشغل النظام القضائي كثيرًا في السنوات القادمة.

يفرض المستقبل تحديات جديدة على الثقة الإنسانية. في الفصل القادم سنفحص تأثيرات التزييف العميق (Deepfake) في مجال الفيديو وتبعاته القانونية.