"סרטון הערום של גל גדות דלף": לא תאמינו כמה קל לזייף סרטונים

המשפט "זה פוטושופ" תמיד מתקשר לביצוע מניפולציות בתמונות. בתוכנה המתקדמת, כל עורך מיומן יכול לזייף תמונות או להדביק אנשים במקומות שמעולם לא היו תוך כמה דקות בודדות. נושא שמירת הפרטיות שלנו הופך למאתגר מיום ליום ובעבר גם החברה שפיתחה את הפוטושופ, הציגה כלי שבו היא יכולה לדגום חמש שניות שבהן בן אדם מדבר ולהשתמש בקול שלו להגיד דברים שמעולם בכלל לא יצאו מפיו. אמנת זיוף התוכן מתקדמת בצעדי ענק למקומות שממש לא היינו רוצים שהיא תגיע וזה עלול לסבך אותנו ובגדול.

היינו עדים לכך כאשר סרטון פורנו מזוייף של השחקנית גל גדות עלה ברשת על ידי שימוש בבינה מלאכותית. "עכשיו מציאות שבאה ממערכות מחשב מתוחכמות יכולות לחולל מידע שנראה מאוד אמיתי, ולהציג לנו דברים מאוד מציאותיים. אנחנו בעצם בדרכנו למשבר מאוד חריף בעולם הדיגיטל. אנשים יפסיקו להאמין לדברים שהם רואים ויפסיקו לסמוך על מנהיגים שאומרים דברים. פה יש בעיה די משמעותית", אמר לנו מני ברזילי, חוקר במרכז למחקר סייבר באוניברסיטת ת"א.

"לאחרונה אף התחילו משתמשים שונים לייצר סרטונים בהם הפנים של סלבריטיז שונים מוכנסים לתוך סרטונים קיימים. וכיום ניתן למצוא סרטי פורנו עם שחקניות כמו גל גדות ועד דמויות מפורסמות כמו מישל אובמה", הוסיף. "פה זה כבר מתחיל להיות מדאיג. היכולת לייצר סרטונים בהם המח האנושי לא מסוגל להבדיל בין אמיתי לפיקטיבי היא כזו שיכולה לשנות סדרי עולם. סביר מאוד להניח שהיכולת הזו תבוא לידי ביטוי בקרוב במערכות בחירות ובאירועים אחרים בהם גורמים עוינים ינסו להשפיע על התוצאות על ידי פרסום של סרטונים שנראים אמיתיים אך בפועל הם מזויפים".

ברזילי סיפר לנו קצת על ההשפעות שיכולות להיגרם לתעשייה, בעקבות המקרים האחרונים ונתן כדוגמה את הציוץ שכמעט גרם למשבר עמוק בארצות הברית: לפני כחמש שנים, האקרים השתלטו על חשבון הטוויטר של AP, גוף תקשורתי בעל שם וידוע בעולם כולו. אותם פורצים פרסמו כי היו שני פיצוצים גדולים בבית הלבן שגרמו לפציעתו של ברק אובמה. מכיוון שמדובר בגוף תקשורתי אמין, אנשים החלו לדאוג ולחשוש לחייו של הנשיא המכהן לשעבר. "המוח שלנו הוא כלי שבאופן טבעי נוטה יותר לאמון מאשר לחוסר אמון. זאת אומרת, האופן שבו מחקרים כבר מזה שנים מוכיחים שכשאתה שומע משהו, אתה קודם כל מאמין לו ואז אתה מחפש סיבות למה לא", הוסיף ברזילי. המקרה הספציפי גרם לנפילה של הדאו ג'ונס ב-145 נקודות תוך 2 דקות בלבד, ולמחיקה של כ-136 מיליארד דולרים מהשווקים האמריקאים.

"האופן שבו פתרונות אלו עובדים מבוסס על מיפוי פנים באמצעות אלגוריתמים של בינה מלאכותית. אלגוריתמים אלו מבצעים מיפוי ברמת דיוק גבוהה של נקודות רבות בפנים של הגורמים הרלוונטיים ועל בסיס ניתוח זה, יכולה המערכת להלביש את הפנים של דמות אחת על דמות אחרת". כל מה שצריך זה צילום של קטע וידאו קצר שבו רואים את הפנים של הבן אדם שעליו רוצים לבצע את המניפולציה ומצלמה נוספת שמצלמת את הבן אדם שיבצע את התנועות והבעות הפנים המושתלות. מעולם לא היה יותר קל לזייף סרטון. את זה אנחנו יכולים לראות בסרטון שבו לוקחים קטע וידאו קצר של ג'ורג' ווקר בוש, נשיא ארצות הברית לשעבר וגורמים לו להזיז את תווי הפנים שלו - איך שרוצים

"בעצם אנחנו רואים את היכולת לפרסם שנראה אמיתי בשם בן אדם שנראה אמיתי ככלי למניפולציה של החלטת ההמונים, ופה אפשר לעשות הרבה דברים. הראשון, כל מיני הודעות שקשורות בשוק ההון. לגרום למניות לעלות, לגרום למניות לרדת לגרום לחברות לקרוס וכו'. אם עכשיו אנחנו רואים את מארק צוקרברג כאילו שיכור בחדר שלו בסרטון שנראה פיראטי מתוודה על משהו שנשמע נורא לגבי מה שפייסבוק עושה, הדבר יוביל למשבר די עמוק ומארק צוקרברג עכשיו יצטרך להוכיח שזה לא הוא שצולם בסרטון, שזה מזוייף".

"הדבר השני ובו אנחנו רואים התפתחות אדירה בשנים האחרונות בתחום הזה זה איזושהי מניפולציה על בחירות. סיפורים כמו קיימברידג' אנליטיקה (הפרשה שבה נאספו פרטיהם האישיים של 87 מיליון משתמשים ברשת החברתית פייסבוק, לטובת הבחירות בארצות הברית) הם סיפורים מרתקים ומדהימים של חברה שעסקה במניפולציה פסיכולוגית של אנשים, של הקהל, על מנת לגרום להם לבחור במועמד אחד על פני מועמד אחר. זוהי הונאת קהל באמצעות מידע פרטי".

"הדבר השלישי כמובן, אנחנו נראה סחיטות. לדוגמה, ישלחו למישהו סרטון של הבת שלו בסיטואציה מאוד מאוד מביכה ויגידו לו או שאתה משלם או שאתה עושה אחד מכמה דברים אחרים, ולא משנה אם הסרטון אמיתי או לא אמיתי, ולא משנה אם הוא יודע שזה אמיתי או לא אמיתי. יכול להיות שהוא אפילו יודע שזה לא אמיתי ועדיין הוא יבחר לשלם בשביל שהסרטון הזה לא יתפרסם. יכול להיות שהבת נמצאת עכשיו בטיול של שלושה חודשים בדרום אמריקה והיא לא זמינה בכלל והוא אפילו לא יכול לבדוק אם היא נחטפה או לא נחטפה למרות שבסרטון זה נראה כאילו היא נחטפה. מדובר בהונאות ישירות מול בן אדם ולא מול קהל כפי שדיברתי בחלק השני".

"כבר היום יש בעיה קשה. אנשים לא מפעילים חשיבה קריטית כשהם קוראים דברים באינטרנט. אמנם מדברים כל הזמן על חכמת ההמונים כאילו היא דבר שמאוד עובד, אבל האמת היא שהאנטי גיבור של חכמת ההמונים זו תופעת העדר. המון פעמים באינטרנט, יש מקרים שאנשים ספגו נזק די משמעותי בגלל שאנשים רבים פעלו בלי לחשוב. הקהל צריך להתחיל להבין שלא כל מה שבאינטרנט נכון ושרוב הדברים שקוראים באינטרנט הם נכונים אבל לא הכל. לכן, צריך להפעיל חשיבה קריטית ולפקפק בדברים שקוראים, כי לא יהיו כלים טכנולוגיים שיעזרו לנו להתמודד עם הדבר הזה בקרוב.

הדבר השני זה שחברות ענק כמו פייסבוק וגוגל, שעל גבי הפלטפורמה שלהם הולכים לעשות שימוש במטרה לפרסם מידע שהוא פיקטיבי כולל פייק ניוז, יצטרכו לקחת אחריות די משמעותית על הנושא הזה. אנחנו כבר רואים בעקבות כל מיני דברים אירועים משמעותיים שקורים בשנים האחרונות, שהחברות האלו התחילו לקחת אחריות. ולחץ ציבורי גדול, לחץ רגולטורי גדול, הסנאט, שגורם למארק צוקרברג לבוא ולתת עדות - אלה דברים שמשנים את תפיסת האחריות של חברות טכנולוגיה בעולם לגבי המידע שמפורסם אצלם. החברות יצטרכו לקחת אחריות והציבור יהיה חייב להמשיך להפעיל לחץ על החברות האלו במטרה לגרום להן לקחת אחריות. אלו הדברים העיקריים שאפשר לעשות כרגע".

הנושא יידון בהרחבה במהלך שבוע הסייבר הלאומי של המרכז למחקר סייבר באוניברסיטת ת"א, מערך הסייבר הלאומי במשרד רוה"מ ומשרד החוץ שייערך ב-17-21.06.