15העתיד
פרק 101 · זמן קריאה: 7 דקות

פרק 101: סוכנים אוטונומיים והונאות מותאמות אישית — הצייד הדיגיטלי שאינו נח לעולם

במהלך השנים, עולם ההונאות הדיגיטליות דמה לרשת דייגים רחבה שהושלכה אל הים בתקווה לתפוס משהו. המיילים של "הנסיך הניגרי", הודעות ה-SMS על חבילה שמתעכבת בדואר, או הקישורים המזויפים לבנק — כולם היו גנריים, כתובים בעברית עילגת לעיתים, ונשלחו לאנשים רבים בו-זמנית בשיטת "מצליח". מי שפקח עיניים, מי שגילה זהירות בסיסית, הצליח לחמוק מהרשת בקלות יחסית. אבל בזמן שבוחנים את זיופי הקול והווידאו, ניתן לראות מהפכה שקטה ומסוכנת בהרבה: המעבר מ"דייג ברשת" ל"ציד בצלצל מונחה לייזר".

הכירו את הסוכנים האוטונומיים. אלו אינם עוד בוטים פשוטים המגיבים למילות מפתח, אלא תוכנות מבוססות בינה מלאכותית המסוגלות להציב לעצמן מטרות, לתכנן אסטרטגיה, לאסוף מידע מכל פינה ברשת ולנהל מערכת יחסים שנמשכת שבועות וחודשים — והכל ללא מגע יד אדם בצד השני. אם בעבר הנוכל היה צריך להשקיע זמן ואנרגיה כדי לרמות קורבן ספציפי (מה שמכונה בעגה המקצועית Spear Phishing), הרי שהיום, הסוכן האוטונומי יכול לעשות זאת עבור נפגעים רבים במקביל, ברמת דיוק ומניפולציה שהייתה שמורה בעבר רק לסוכני ביון מיומנים.

בפרק זה ננתח את הטכנולוגיה הזו, נבין כיצד היא עשויה להשפיע על מנגנוני ההגנה הפסיכולוגיים, ונבחן את הכלים המשפטיים שעשויים לעמוד לרשות הנפגעים כשהיריב הוא קוד שנועד לפגוע בחיסכון הכספי.

התרחיש הבא הוא דוגמה לימודית המבוססת על דפוסי הונאה נפוצים. הדמויות והאירועים נועדו להמחשה בלבד.

המקרה של יורם: כשאלגוריתם הופך לאיש סוד

יורם (שם בדוי), בן 54, סמנכ"ל תפעול בחברת לוגיסטיקה גדולה, נחשב לאדם שקול. הוא לא לוחץ על קישורים חשודים, הוא משתמש באימות דו-שלבי בכל חשבונותיו, והוא מקפיד על כללי הזהירות של הבנק. בוקר אחד, הוא קיבל פנייה בלינקדאין מאישה בשם "נעמה לוי", שהציגה את עצמה כאנליסטית שוק בתחום שרשראות האספקה. הפרופיל שלה נראה אמין: תמונה מקצועית (שנוצרה ב-AI, אך קשה היה לדעת זאת), המלצות מקולגות בתעשייה, ורשימת פרסומים.

"שלום יורם," כתבה נעמה. "קראתי את הראיון שנתת לכלכליסט בחודש שעבר על המחסור בחומרי גלם. הניתוח שלך לגבי נמלי המזרח היה מרתק. אני עובדת על מחקר דומה והייתי שמחה לשמוע את דעתך על נקודה מסוימת."

יורם הוחמא. השיחה התפתחה לאיטה. במשך שלושה שבועות, "נעמה" לא ביקשה דבר. היא שלחה ליורם מאמרים רלוונטיים, שאלה שאלות מקצועיות והפגינה ידע עמוק. היא ידעה מתי הוא יוצא לחופשה (מידע שפורסם ברשת), היא הכירה את שמות ילדיו (מתוך פוסט ישן ברשת חברתית), והיא תמיד כתבה בעברית רהוטה ועניינית. מה שיורם לא יכול היה לדעת הוא ש"נעמה" היא תרחיש אפשרי של סוכן אוטונומי — סקריפט מתוחכם שמחובר למודל שפה גדול (LLM) וסורק בזמן אמת את טביעת הרגל הדיגיטלית כדי לבנות מניפולציה רגשית.

המשבר הגיע בערב יום שלישי. נעמה שלחה הודעת וואטסאפ בהולה: "יורם, אני בבעיה נוראית. הסטארט-אפ שלי זכה במכרז ממשלתי, אבל בגלל תקלה טכנית בהעברה מחול, הערבויות שלנו לא עברו והמכרז יבוטל מחר בבוקר. חסרים לי 150 אלף שקל ל-48 שעות בלבד. אני לא מעזה לבקש, אבל אתה האדם היחיד מהתחום שאני סומכת עליו. יש לי את כל המסמכים המאשרים את הזכייה."

היא שלחה קבצי PDF שנראו רשמיים. יורם, שחש כי הוא מכיר את נעמה כבר חודש ורואה בה קולגה, לא חשד. הוא העביר את הכסף בהעברה בנקאית לחשבון שהיא סיפקה לו. למחרת, הפרופיל של נעמה בלינקדאין נעלם, מספר הוואטסאפ נותק, והכסף עבר בשרשרת חשבונות מהירה עד שהפך למטבעות קריפטוגרפיים.

בתרחיש כזה, כאשר נפגע פונה לייעוץ משפטי, הוא עשוי לבטא תסכול עמוק ותמיהה כיצד מכונה הצליחה לדמות אישיות אנושית בצורה כה משכנעת, תוך שימוש במידע אישי ומקצועי מדויק.

האבולוציה של המלכודת: משיטת "הרשת" לשיטת "הצלצל" האוטונומי

המעבר מסטטי לדינמי

ההבדל המהותי בין הונאות העבר להונאות של סוכנים אוטונומיים טמון בדינמיות. בעבר, נוכל היה מכין "דף נחיתה" מזויף וממתין. היום, הסוכן האוטונומי הוא אקטיבי ומגיב לתשובות הקורבן. אם הקורבן מביע ספק, הסוכן עשוי לשנות טקטיקה. אם הקורבן שואל שאלה מורכבת, הסוכן מסוגל לאתר מידע ולנסח הסבר משכנע בתוך שניות.

איסוף מידע (OSINT) מבוסס בינה מלאכותית

סוכנים אוטונומיים פועלים לרוב באמצעות "מודיעין ממקורות גלויים". הם סורקים רשתות חברתיות, בלוגים, תגובות בפורומים ואפילו רישומים עסקיים. המטרה היא לבנות פרופיל פסיכולוגי: מהן נקודות התורפה של היעד? מהן השאיפות שלו? הסוכן מתאים את ה"פיתיון" באופן אישי, מה שהופך את ההונאה לקשה לזיהוי.

סבלנות אלקטרונית

בשונה מגורם אנושי שעלול להפגין קוצר רוח, סוכן אוטונומי יכול להמתין זמן רב. הוא יכול לנהל "שיחת חולין" במשך חודשים, לציין מועדים אישיים ולשלוח המלצות תוכן, רק כדי לבנות את האמון הנדרש לרגע שבו תתבצע הבקשה הפיננסית. סבלנות זו נועדה לנטרל את החשדנות הראשונית הטבעית.

המכונה שמאחורי המסכה: איך סוכנים אוטונומיים משנים את כללי המשחק

מבחינה טכנולוגית, סוכנים אוטונומיים פועלים במעגלי משוב. התוקף עשוי להגדיר משימה כללית של השגת רווח כספי מקהל יעד מסוים, והסוכן פועל באופן עצמאי:

  1. פירוק למשימות: הסוכן מאתר רשימת יעדים, בונה זהות אמינה ויוצר קשר ראשוני.
  2. ביצוע: שימוש בכלים דיגיטליים לאיתור מטרות, יצירת סיפור רקע בבינה מלאכותית ושליחת פניות מותאמות.
  3. למידה והתאמה: ניתוח התגובות ושיפור הגישה בהתאם לאינטראקציה עם היעד.

היכולת לבצע "התקפת התחזות רחבת היקף" (Mass Personalization) היא מהאיומים המשמעותיים כיום. שרת בודד יכול להריץ מספר רב של סוכנים כאלה בו-זמנית, כשכל אחד מהם מנהל תקשורת ייחודית עם יעד אחר.

הונאות "שחיטת חזירים" (Pig Butchering) בעידן האוטונומי

סוג הונאה זה מבוסס על בניית אמון הדרגתית וציפייה לרווחים. הסוכנים האוטונומיים עשויים להנחות נפגעים לפתוח חשבונות בפלטפורמות השקעה פיקטיביות, להציג רווחים שאינם קיימים ואף לאפשר משיכת סכומים קטנים בתחילה כדי לחזק את האמון — הכל בתהליך אוטומטי.

המאבק המשפטי בערפל הדיגיטלי: אחריות בנקים וגופים פיננסיים בעידן ה-AI

שאלה מרכזית שעולה במקרים אלו היא סוגיית האחריות על אובדן הכספים. בעולם של סוכנים אוטונומיים, התשובה מחייבת בחינה של הדין הקיים בישראל.

חוק שירותי תשלום, התשע"ט-2019

חוק זה קובע את חלוקת האחריות בין הלקוח לבין הגוף הפיננסי במקרה של "שימוש לרעה" באמצעי תשלום. ככלל, בפעולה שלא באישור הלקוח, האחריות היא על הגוף הפיננסי. עם זאת, כאשר הלקוח מבצע את ההעברה בעצמו עקב מניפולציה, המצב המשפטי הופך למורכב יותר.

במצבים כאלו, עולה שאלת חובת הזהירות המוגברת של הבנק. ניתן לבחון האם על הבנק מוטלת חובה לזהות דפוסים חריגים. אם המערכות לא זיהו העברה משמעותית לגורם שלא היה עמו קשר קודם כאירוע חשוד, ייתכן שניתן יהיה לבחון את אחריות המוסד הפיננסי בנסיבות העניין.

מסירת פרטים וחלוקת האחריות לפי החוק

יש להבחין בין שימוש של אחר באמצעי התשלום ללא זכות לבין העברה שהלקוח ביצע בעצמו בעקבות מצג שווא. בהעברה שהלקוח אישר, אין להניח שחל אוטומטית הסדר ההשבה לשימוש לרעה. יש לבחון את מהות ההרשאה ואת האפשרות לעילות חוזיות או נזיקיות, לרבות התנהלות הבנק, קשר סיבתי ונזק.

האחריות של הפלטפורמות הדיגיטליות

סוגיה משפטית נוספת נוגעת לאחריותן של רשתות חברתיות המאפשרות פעילות של סוכנים אוטונומיים. למרות הגנות רחבות הקיימות על פלטפורמות בנוגע לתוכן גולשים, ניתן לבחון אפשרויות משפטיות במקרים בהם הפלטפורמה לא פעלה לאחר התרעה או כאשר אלגוריתם המלצות תרם ליצירת הקשר הראשוני.

סימני אזהרה: איך לזהות סוכן אוטונומי לפני שהוא תוקף

למרות התחכום, ניתן לעיתים לזהות סדקים בזהות הדיגיטלית של סוכנים אוטונומיים:

  • מהירות תגובה: מענה מהיר מאוד להודעות ארוכות ומורכבות בכל שעה, באופן שאינו תמיד טבעי.
  • ניואנסים רגשיים ותקשורתיים: סוכני AI עלולים להתקשות בזיהוי הומור ציני, סרקזם עמוק או רמזים תרבותיים ספציפיים מאוד.
  • הימנעות ממפגש: תירוצים חוזרים בנוגע לאי-יכולת לקיים פגישת וידאו חיה או פגישה פרונטלית.
  • שינוי אופי הקשר: קשר שנבנה לאורך זמן ללא פגישה פיזית, שעובר בפתאומיות לבקשות בעלות אופי פיננסי.
  • מאפייני פרופיל: תמונות בעלות מראה מלאכותי, היעדר אינטראקציות חברתיות טבעיות או רשימת קשרים שנראית אקראית.

צעדים אפשריים במקרה של חשד להונאה

  1. הפסקת תקשורת: ניתוק מיידי של המגע עם הגורם החשוד כדי למנוע מניפולציות נוספות.
  2. תיעוד: שמירת צילומי מסך של השיחות, הפרופילים והמסמכים, שכן מידע זה עלול להימחק על ידי הצד השני.
  3. פנייה לבנק: יצירת קשר דחוף עם מחלקת הביטחון של הבנק לבחינת אפשרות לעצירת פעולות, ככל שהדבר מתאפשר בנסיבות העניין.
  4. דיווח לרשויות: הגשת תלונה וציון החשד לשימוש בטכנולוגיית בינה מלאכותית, דבר המסייע באפיון האירוע.
  5. בחינה משפטית: בחינת עמידת המוסד הפיננסי בחובותיו והאם קיימות עילות לבחינת השבת כספים.

היבט משפטי: אחריות והשבה

במקרים של הונאות מותאמות אישית, הדרך המשפטית נבחנת בהתאם לנסיבות הספציפיות של כל מקרה.

היבט האחריות המקצועית: אם הונאה בוצעה תוך שימוש במידע שדלף ממעסיק או מספק שירות, ניתן לבחון את האחריות על פי חוק הגנת הפרטיות.

חובת הגילוי והאזהרה: קיימת גישה משפטית לפיה בתי המשפט עשויים לבחון האם הבנק סיפק אזהרות מספקות בזמן אמת. ניתוח משפטי כללי מעלה כי בנסיבות מסוימות, אם מוסד פיננסי מודע לדפוסי הונאה נפוצים ואינו מזהיר את הלקוח המבצע פעולה דומה, הדבר עשוי להיבחן בראי דיני הרשלנות.

לסיכום, בעידן של טכנולוגיה לומדת, ההגנה הטובה ביותר משלבת מודעות וזהירות יחד עם עמידה על זכויות משפטיות. במהלך שנות העבודה המקצועית, עולה הצורך לבחון כיצד המערכת המשפטית מתאימה עצמה למציאות משתנה זו, כדי להבטיח הגנה מיטבית על הציבור.

1414 מילים · זמן קריאה: 7 דקות

נפגעתם מהונאה או גיליתם פעולה חשודה?

מומלץ לפעול במהירות, לשמור את הראיות ולבחון את נסיבות המקרה. ניתן לפנות לעו"ד ונוטריון ציון בהלול לבחינה ראשונית של המקרה. הסיכוי להשבה תלוי בנסיבות ובאיכות הראיות.