חברת הסטארט-אפ הישראלית Revealense חושפת מערכת עוצמתית חדשה מבוססת AI - illuminator Massive Deepfake Detector שמתמודדת עם האיום הגובר של תופעת הדיפ פייק במערכות בחירות, עולם הפיננסים והמדיה. השקת המערכת מתבצעת בימים קריטיים אלה, בשנה שבה מתקיימות בחירות בעשרות מדינות וביניהן דמוקרטיות גדולות כמו ארה"ב.
עוצמתה של המערכת מבוססת על היכולת שלה לנתח התנהגות אנושית בסרטוני וידאו באמצעות בדיקה של מדדי התנהגות אנושיים הקשורים למערכת העצבים האוטונומית של המצולמים. גישה זו מאפשרת לזהות מאפיינים חריגים בתגובות רגשיות או מחשבתיות, חוסר תאימות התנהגותית ביחס לקונטקסט ולהבדיל בין בני אנוש אמיתיים לבין בוטים מתוחכמים או תכנים שעברו מניפולציה.
המערכת החדשה מנתחת סרטוני וידאו בהיקף רחב וממיינת אותם לשלוש קטגוריות: דיפ פייק, אותנטיים וסרטונים חשודים המחייבים בדיקה נוספת. היא מסוגלת לעבד היקף בלתי מוגבל של תכנים, החל מסרטוני וידיאו בודדים וכלה במיליוני סרטונים, ועל כן היא בבחינת נכס יקר ערך המבטיח יכולת מענה לכל היקף של פעילות זדונית המבוצעת באמצעות שימוש בדיפ פייק.
"תופעת הדיפ פייק צמחה בשיעור של 245% בשנת 2024 ופוטנציאל הנזק שלה לאירועים לאומיים כמו בחירות או לאירועי הונאה בנקאית, תקיפת מוניטין תאגידית וכו' הוא משמעותי. הביקוש למערכת מצד גופי ממשל, מוסדות פיננסיים וגופים תאגידיים הולך וגדל מידי יום בניסיון לייצר קו הגנה חדש שיגן על תהליכים דמוקרטיים, התנהלות עסקית ופיננסית מאובטחת ומניעת קמפיינים של דיסאינפורמציה".
איום הדיפ פייק הולך וגובר כתוצאה מזמינות ונגישות טכנולוגיות המאפשרות ליצור סרטוני דיפ פייק ריאליסטיים ברמה גבוהה, לצד קלות הפצת הסרטונים ברשתות החברתיות וניצול הוויראליות שמייצרת תהודה במהירות רבה. בנוסף, דיפ פייק הפך ל"כלי נשק" פסיכולוגי בו נעשה שימוש גם על ידי מדינות, הנעזרות בו להפצת מידע מטעה והשפעה על דעת אזרחים בארצם או במדינות אחרות.
על פי דיווחים, סין עושה שימוש בתוכן מבוסס AI כדי להשפיע על מערכות בחירות, כפי שהתגלה בבחירות בטייוואן בתחילת השנה ובבחירות המקדימות בהודו שבהן מספר גדול של שיחות קוליות דימו את קולותיהם של דמויות פוליטיות. הדוגמאות הללו מאירות את הפוטנציאל של דיפ פייק להשפיע על דעת הקהל ועל דפוסי הצבעה ולהציב איום על הדמוקרטיה.
היכולת להשתמש ב- Revealense Illuminator באמצעות API מאפשרת לזהות במהירות סרטוני דיפ פייק ללא מגבלות של היקף התכנים והמערכת הופכת למשאב חיוני עבור עובדים במערכות הבחירות, גופי מדיה וקבוצות שעוקבות אחר טוהר הבחירות והתהליך הדמוקרטי.
רבילנס נוסדה בשנת 2021 על ידי דב דונין, מנכ"ל החברה, שגיבש סביבו צוות של מומחים מתחומי הפסיכולוגיה והנוירופסיכולוגיה, מתמטיקה, AI, ראייה ממוחשבת, רשתות נוירונים ועוד. החברה, שמעסיקה 10 עובדים, מתנהלת כבוטסטראפ ללא השקעות של משקיעים חיצוניים. רבילנס מתארחת לצרכי שיתוף פעולה וקידום מיזמים חדשניים בבית לחדשנות של עיריית פתח תקווה, בית יחיד מסוגו המחבר בין עולמות התעשייה, התעסוקה והחינוך.