מאז הגיחה לאוויר העולם לאחרונה תוכנת FakeApp היא הצליחה לאגד סביבה קהילה של עשרות אלפי אנשים, המרוכזים בעיקר בסאב-רדיט Deepfakes, באתר שיתוף התוכן הפופולרי Reddit. התוכנה מבוססת על אלגוריתמים של החלפת פנים (Face Swap) בדומה לפילטרים המוכרים בסנאפצ'ט, אינסטגרם ופייסבוק. הרשת העצבית לומדת את הפנים מהתמונות ומנתחת את הזוויות כדי לשלב בכל פריים בנפרד את הפנים החדשות במקום הפנים של השחקן או השחקנית שנבחרו. תריצו את הפעולה הזו במהירות של 30 פריימים בשנייה ויש לכם סרטון שזויף על ידי בינה מלאכותית.
הסרטונים הללו אמנם עדיין לא באיכות מושלמת אבל הבינה המלאכותית משתפרת כל הזמן והתוצאות הולכות והופכות לריאליסטיות יותר. כדי לנסות להקדים תרופה למכה, אתר הפורנו הפופולרי "פורנהב" והרשת החברתית טוויטר כבר הודיעו כי יעשו כל שביכולתם למיגור הפצת תכנים מיניים מזויפים.
פוטנציאל הנזק פה הוא עצום. למעשה, אפשר להניח בסבירות גבוהה שסרטונים מזויפים יצוצו בזמן הקרוב בתדירות גבוהה יותר ויהפכו לעניין שבשגרה, כפי שתמונות מרוטשות בפוטושופ הפכו לנורמה. בכל הנוגע לפורנו-נקמה יש פה מנוע שיימינג עוצמתי ובאופן כללי הטענה היא שהצמדת פניו של מישהו לסרט פורנו בניגוד לרצונו היא הטרדה מינית, או אפילו יותר מזה.
חשוב להדגיש כי יש שימושים תמימים ליישום הזה, כמו הדבקת הפנים של הילד על הראש של כוכב קולנוע לצורך הכנת ברכת יומולדת מקורית, אבל הפוטנציאל בעולם הפורנו כל כך גדול שקשה לראות שימוש אחר פופולרי יותר. שתי ענקיות הרשת - כל אחת בתחומה - החליטו להטיל סנקציות על משתמשים שמפיצים תכנים כאלה, ובמקרים מסוימים אף ירחיקו אותם לצמיתות מהשירות.
"העלאת הסרטונים היא הפרה בוטה של מדיניות החברה", אמרו בטוויטר והודיעו כי לא ירחמו על משתמשים שיעלו סרטונים כאלה לרשת ללא אישור מפורש מהדמות המוחלפת בסרטון. במקרה של טוויטר זה קל יותר כי אסור לפרסם פורנו בכלל והכוונה היא לסרטונים מזויפים שאינם מיניים.
פורנהב, לעומתה, מארחת בשרתיה פורנו רב אך היא מתנגדת לפלישה הזו לפרטיות בניגוד לרצון האנשים המופיעים בסרטון. החברה הזמינה את הגולשים באתר לדווח על כל סרטון בו הוחלפה הדמות הראשית בכוכבת מוכרת, ובתגובה היא תסיר אותם מיד משרתיה ותרחיק את מעלה הסרטון לצמיתות.
>> לעוד כתבות מעניינות - עקבו אחרינו גם בפייסבוק.
