בחודש דצמבר התרגשו גולשי אתר שיתוף התוכן Reddit לגלות לינק לסרטון פורנו בו מככבת לכאורה כוכבת "וונדר וומן" הישראלית, גל גדות. הסרטון נראה אמין למדי ואיתו צצו גם סרטונים נוספים עם כוכבות ענקיות כמו סקרלט ג'והנסון, אמה ווטסון, טיילור סוויפט ועוד.
הסרטונים הללו נראו כמו שיעורי בית גסים בעריכת וידאו אבל את העבודה הקשה מאחורי הקלעים ביצעה בינה מלאכותית, שזמינה כעת להורדה חופשית ברשת - מה שאומר שכנראה נראה בקרוב עוד הרבה מאוד פורנו מזויף ברמה גבוהה. מצד אחד זה פתח לסחיטה אבל מצד שני, כל אחד יכול לטעון כעת שהסרטון שלו מזויף.
חשוב להדגיש כי יש שימושים תמימים ליישום הזה, כמו הדבקת הפנים של הילד על הראש של כוכב קולנוע לצורך הכנת ברכת יומולדת מקורית, אבל הפוטנציאל בעולם הפורנו כל כך גדול שקשה לראות שימוש אחר פופולרי יותר. כדי להשתמש בתוכנה צריך להוריד אותה ולהתקין אותה על המחשב. לאחר מכן יש להזין לתוכנה תמונות רבות של הפנים אותן רוצים לשלב בסרטון, כדי לאמן את הבינה המלאכותית.
ליישום קוראים FakeApp והוא מבוסס על אלגוריתמים של החלפת פנים (Face Swap) בדומה לפילטרים המוכרים בסנאפצ'ט, אינסטגרם ופייסבוק. הרשת העצבית לומדת את הפנים מהתמונות ומנתחת את הזוויות כדי לשלב בכל פריים בנפרד את הפנים החדשות במקום הפנים של השחקן או השחקנית שנבחרו. תריצו את הפעולה הזו במהירות של 30 פריימים בשנייה ויש לכם סרטון שזויף על ידי בינה מלאכותית.
הסאב-רדיט (פורום ספציפי) של Deepfakes שעוסק כולו ביישום מונה כבר כ-17,000 גולשים ולא נראה שהמהפכה הזו עומדת להיעלם. מה שהחל בתור גימיק מצית את הדמיון של גולשים רבים וברגע שהיישום הפך לזמין להורדה בחינם הוא גם לא ייעלם עד שתגיע תוכנה מוצלחת יותר, שתבצע את אותה הפעולה.
למעשה, אפשר להניח בסבירות גבוהה שסרטונים מזויפים יצוצו בזמן הקרוב בתדירות גבוהה יותר ויהפכו לעניין שבשגרה, כפי שתמונות מרוטשות בפוטושופ הפכו לנורמה. התוצאה של התוכנה הזו עדיין לא מושלמת אבל היא משתפרת ככל שיותר אנשים משתמשים בה ומזינים לתוכה תמונות, כפי שמצופה מבינה מלאכותית.
לא כל אחד מ-17,000 חברי הקהילה שהתאגדו סביב FakeApp משתמשים בה כדי לייצר תוכן משפיל ורבים עושים בה שימוש בשביל ללמוד ולפתח את התחום. המשתמשים בתוכנה מפרסמים בקבוצה קטעים קצרים שהם יצרו והמציאות מוכיחה שברוב המקרים קשה מאוד לזהות האם מדובר בזיוף או לא. עידן הפורנו המזויף החל - ואף אחד לא יכול לעצור אותו.
>> לעוד כתבות מעניינות - עקבו אחרינו גם בפייסבוק.
