דיפ פייק. ShutterStock, ShutterStock
צילום: ShutterStock, ShutterStock

לשקר כבר אין רק רגליים,יש לו גם פנים: הטכנולוגיה מאחורי האיום הגדול הבא

בשנים הקרובות אנחנו עשויים לגלות איום חמור יותר על הטיית השיח: הדיפ-פייק. הטכנולוגיה מאפשרת שינוי סרטון קיים ובו בן אדם מדבר, ואף השתלת פרצוף על גוף של מישהו אחר. הטכנולוגיה מאחורי האיום הגדול הבא

בעוד שאיום הבוטים והפרופילים המזויפים ברשתות החברתיות עדיין נוכח ומאיים על השפעת התודעה ובעיקר על הטיית הבחירות, בשנים האחרונות הצטרף איום נוסף וחמור לא פחות: הדיפ-פייק. מדובר בטכנולוגיה מתקדמת המאפשרת לקחת סרטון קיים של בן אדם מדבר, ולערוך אותו כדי שיזיז את השפתיים לפי דיבור חדש. בעבר הטכנולוגיה הייתה מורכבת לשימוש והייתה כמעט בלתי אפשרית למשתמש הפשוט או אפילו המתקדם. אך בשנים האחרונות היא הפכה לזמינה ונגישה, כשכל אדם, ללא ידע מקצועי יכול לזייף ולערוך סרטון מהמחשב הביתי. האפשרויות אין סופיות: ניתן לקחת פרצוף של פוליטיקאי או סלבס ולהלביש אותו על גוף אחר או לחלוטין לערוך את מי שנראה בסרטון, תוך כדי שהוא אומר דברים שכלל לא אמר או לא עשה מעולם. אז כמה מסוכנת הטכנולוגיה הזאת, באיזה צעדים יש לנקוט וגם אילו שימושים חיוביים יש בה?

"במעבדה שלנו עוסקים במגוון של אפליקציות שקשורות בייצור נתונים מלאכותיים תוך כדי שיתוף פעולה עם התעשייה", אומר פרופ' עירד בן-גל, ראש המעבדה ליישומי בינה מלאכותית באוניברסיטת תל אביב. "יש אפליקציות שמבוססות על מציאות מדומה שחלקן גם רלוונטיות לדיפ אימג'ינג, כלומר שימוש ברשתות עמוקות לצורך הדמיה שחלק קטן ממנו זה הדיפ-פייק שעושה שימוש בטכנולוגיה הזאת למטרות הונאה או גניבת זהויות. אבל צריך להבין שהטכנולוגיה הזאת של יצירת מציאות מדומה שקרובה לאמיתית, משמשת להרבה מאוד אפליקציות שחלקן לגמרי לגיטימיות וחיוביות, כמו בתחום הדמיה רפואית, סימולטורים לתחבורה ואפילו גיימינג", מסביר פרופ' בן גל על היתרונות של הדיפ-פייק.

"כשאנחנו מדברים על החיים העתידים, לדוגמה במסגרת פרויקט שנקרא Digital Living 2030 עליו אנחנו עובדים ביחד עם אוניברסיטת סטנפורד, צריך להבין שהם משלבים בסינרגיה מלאה גם את העולם הפיזי וגם את העולם הדיגיטלי. בעולמות כאלה, אפשר לדבר על מצבים שאדם בעצמו מעוניין שתהיה לו דמות דיגיטלית שמאוד דומה לו. לדוגמה דמות דיגיטלית שיכולה לייצג אותו בעבודות לגיטימיות, או בדו שיח גם בזמנים בהן הישות הפיזית שלו עסוקה בדברים אחרים. אתה תלך לישון והדמות הזו תעבוד בשבילך. ואם אתה מלביש על זה את כל הטכנולוגיות שעוזרות לייצג מציאות מדומה, לרבות קול, וידאו וגם ניתוח תגובות רגשיות, אז אפשר לייצר אווטאר, שהוא העתק דיגיטלי מושלם שלך שעושה את העבודה במקומך".

״אתה תלך לישון והדמות הזו תעבוד בשבילך״ (צילום: ShutterStock, ShutterStock)

החשש: שימוש בטכנולוגיה להטעיית בחירות

"כמובן שיש הרבה דברים פחות טובים ומסוכנים, שמלווים כל טכנולוגיה חדשנית, למשל שימוש בדיפ פייק לצורך פורנוגרפיה, על מנת להראות סלבריטאים בסיטואציות מיניות שלא היו בהן מעולם, או לעשות כמובן גניבת זהויות לצורך הונאות במה שקשור לעולם הפיננסי והבנקאות. שימוש כזה גם מעלה שאלות אתיות כבדות, כמו לדוגמה שימוש בפנים ודמות של אנשים שמתו לצרכי פרסומות שלא ניתן לקבל מהם אישור לכך. וכמובן, יש חשש של שימוש להטעיית דעת קהל והטיית בחירות".

"אפליקטיבית, הדיפ-פייק נעשה יותר ויותר נגיש ויש אפילו תוכנות זמינות כאלו שעדיין הן לא מושלמות אבל נותנות תוצאות לא רעות בכלל. לדוגמה, בתוכנה אפשר להקריא טקסט (לדובב) ולבחור דמות מייצגת, והדמות למעשה מקריאה את הטקסט הנבחר בטון ובקול רצוי. תוכנה כזו עולה בערך 50-100 דולר, סכום נגיש. נכון, היא עדין לא באיכות הכי טובה, אבל יש גם תוכנות מקצועיות שמאפשרות לייצר דיפ-פייק באופן טוב יותר. אני חושב שעיקר המגבלות פה הן מגבלות אתיות, משפטיות, רגולטוריות ולא טכנולוגיות. מבחינת אפליקטיביות - נגיע לשם מהר מאד", אומר פרופ' עירד בן גל. "היום אפשר עוד לזהות מה מזויף ומה לא כי הטכנולוגיה היא בראשיתה, ובדברים האלו דווקא מודלים מתמטיים שיכולים לגלות זיוף הם במידה מסוימת הרבה יותר רגישים מעין אנושית. אבל ככל שהטכנולוגיה תתקדם, יהיה יותר ויותר קשה לזהות זיופים. יש פה תהליך של תחרות, ממש כמו בעולם הסייבר בין תוכנות דיפ פייק לתוכנות התראה וגילוי שיפעלו ברשתות חברתיות".

״אפליקטיבית, הדיפ-פייק נעשה יותר ויותר נגיש ויש אפילו תוכנות זמינות כאלו שעדיין הן לא מושלמות אבל נותנות תוצאות לא רעות בכלל״ (צילום: ShutterStock, ShutterStock)

"אפשר לייצר די בקלות אירועים כמו המתקפה על גבעת הקפיטול"

"זו לא בעיה ליצור סרטונים מזויפים ומשם לייצר אירועים דרמטיים בדעת קהל. כל מי שהסתכל על דוגמאות הדיפ פייק הראשונות של אובמה וטראמפ מבין את העוצמה של הטכנולוגיה מבחינת השפעתה, וכשאתה מוסיף לזה פייק-ניוז אפשר לייצר די בקלות אירועים כמו המתקפה על גבעת הקפיטול. תחשוב שמה שטראמפ אמר חצי במרומז לתומכיו לפני המתקפה, אפשר היה לייצר מלאכותית כדיפ-פייק שלו שמשכנע המונים באופן הרבה יותר ברור לעלות על וושינגטון עם נשק. ועכשיו, תחשוב שתיאורטית משפטית הוא יכול לדאוג שסרטון כזה יעלה לרשת ובמקביל לטעון שהוא בכלל לא קשור לזה, אלא להיפך - ייצרו סרטון כזה בכדי לפגוע בו. כך אתה יוצר מאסה אדירה של פייק מציאות שיכולה לערער אמון במערכות שלטון".

"במחקר אחר יחד עם ד"ר אלון סלע בדקנו מהי הדרך הנכונה להפיץ באינטרנט דעה חדשה שעדין לא נפוצה. הסתבר שהדרך הכי יעילה היא לוודא שבזמן קצר מרגע שאדם נחשף לדעה הזו, הקרובים אליו ברשת החברתית יגיבו ויהדהדו את המסר החדש וחוזר חלילה. זו גם במידה רבה הטקטיקה שנקטה חברת קימברידג' אנליטיקס בבחירות הראשונות של טראמפ על בסיס נתוני פייסבוק. עכשיו תאר לעצמך שניתן לייצר דיפ-פייק בכמויות מסחריות עצומות לא רק של פוליטיקאים אלא של אנשים רגילים ולהשפיע כך על הקרובים להם ברשת. הפעלה כזו בימים אחרונים לבחירות יכולה לשנות תוצאות באופן קיצוני וגם אם ההונאה תתגלה בסופו של יום - זה יהיה מאוחר מידי", סיכם.

״הפעלה כזו בימים אחרונים לבחירות יכולה לשנות תוצאות באופן קיצוני״ (צילום: ShutterStock, ShutterStock)

"אתגר עצום שהציב האינטרנט בפני רשויות אכיפת החוק"

תופעת הדיפ פייק מעצימה לאין שיעור את האתגר העצום שהציב האינטרנט בפני רשויות אכיפת החוק בבואן להחיל את הנורמות והסדר הציבורי על הפעילויות ברחבי הרשת. עוצמת האתגר נחשפת במיוחד מול הליך הבחירות שבפתח, אבן הראשה של הדמוקרטיה. סרטוני דיפ-פייק "עלולים לערער בקרב הציבור את האמונה בכך שיש אמת בבחירות", כפי שקבע לאחרונה יו"ר ועדת הבחירות המרכזית השופט עוזי פוגלמן בהתייחס לסרטון שכולו נוצר במחשב, ובו יו"ר יש עתיד יאיר לפיד מבטיח בנאום למנות שני שרים ערבים", אמר עו"ד אילן שדי, מומחה למשפט פלילי ודיני סייבר, יו"ר הפורום למשפט וטכנולוגיה, בלשכת עורכי הדין.. "פוגלמן אמנם מצא שלא לאסור את הפצת הסרטון, בכפוף להוספת דיסקליימר שיש בו למנוע את הטעיית הציבור, תוך הדגשה כי אין בהחלטה זו משום אישור גורף להשתמש בטכנולוגיה כזו בתעמולה".

פוטנציאל הנזק מטכנולוגיה זו לשיח ולפעילות ברחבי הרשת והשימוש בה בהליך הבחירות מדגיש את הצורך בהסדרת חוקי תעמולת הבחירות. יש לעמוד ולהתריע מפני עוצמת האתגר והסכנה, שהיא הרבה מעבר לכל אתגר טכנולוגי אחר שהציב האינטרנט והטכנולוגיות הנלוות לו. דומה כי פוטנציאל הנזק הצפוי מהדיפ פייק משנה את מאזני הכוחות, ובאין שינוי משמעותי במגמה זו, עלול להיווצר מצב בו יתקיים קונצנזוס לפיו רשויות האכיפה מחויבות בצעדים דרסטים. הכדור נמצא בעיקר בידיהן של ענקיות הטכנולוגיה. לא רחוק היום מקונצנזוס שיוביל להכרזת "מצב חירום דיגיטלי" שיכשיר נקיטה בצעדים דרסטיים. עדיף להימנע מלהגיע למצב כזה שכן המחיר יהיה צמצום הזכות הבסיסית לגישה חופשית למרכז השיח החברתי ולמאגרי ידע.

״פוטנציאל הנזק מטכנולוגיה זו לשיח ולפעילות ברחבי הרשת והשימוש בה בהליך הבחירות מדגיש את הצורך בהסדרת חוקי תעמולת הבחירות״ (צילום: ShutterStock, ShutterStock)

אכן נצפו ניסיונות מצד הענקיות להפיס את דעת הציבור והקונגרס ולהעלות את המודעות לתופעה. כך, לדוגמא, ערכה פייסבוק "תחרות" זיהוי תמונות וסרטוני דיפ פייק, (ממנה עלתה תמונה עגומה למדי, באשר הפתרון המנצח סיפק רמת דיוק של כ-65% בלבד), אולם טרם נמצא פתרון, מה שמחייב את הגברת המאמץ ושיתוף פעולה בין כלל הגורמים. כך או כך, מציאות זו מחייבת הנפת תמרור אזהרה אדום ובוהק, שמחייב את כל העושים בדבר לבחון הדרכים להתמודד עם תופעה מדאיגה זו, אם בהגברת המודעות של כלל הציבור, אם בדרך של דיאלוג עם ענקיות הטכנולוגיה בניסיון להניע אותן למציאת פתרון טכנולוגי, ואם בדרך של עדכון החקיקה הרלוונטית וביצוע פעולות אכיפה במקרים המתאימים.

  • טכנולוגיה

טרם התפרסמו תגובות

הוסף תגובה חדשה

בשליחת תגובה אני מסכים/ה
    walla_ssr_page_has_been_loaded_successfully