סטארט-אפ ישראלי חדשני הפועל תחת השם AI Light ופיתח פלטפורמה מבוססת בינה מלאכותית המיועדת לזיהוי, ניטור ואימות של תוכן דיגיטלי, מודיע היום על מעבר משלב ה-POC (הוכחת היתכנות) המוצלח לפתיחת הפלטפורמה לשימוש הקהל הרחב. הפלטפורמה כבר נוסתה בהצלחה על-ידי למעלה מ-10,000 משתמשים רשומים ובהם גופים עסקיים כגון כלי תקשורת, מוסדות אקדמיים וגופי תוכן; וכן על-ידי אנשים פרטיים כמו יוצרי תוכן, עיתונאים ומשפיענים, אשר ביקשו לבדוק תוכן שהגיע אליהם מסוגים שונים ובהיקפים גדולים, וזאת על מנת לאמת ולאשרר את מהימנותו.
בנוסף, גם רשתות חברתיות יכולות לעשות שימוש במערכת על מנת לזהות ולהסיר תוכן מזויף או מניפולטיבי ביעילות רבה יותר; גופי ממשל יכולים לעקוב אחר מגמות של הפצת מידע כוזב ולהתמודד עם השפעות מצד ממשלות זרות; חברות וארגונים עסקיים יכולים להגן על המותג שלהם מפני הפצת מידע שגוי או מזיק; ומוסדות חינוך יכולים להשתמש בכלי כאמצעי חינוכי לפיתוח חשיבה ביקורתית ואוריינות דיגיטלית (היכולת להבין את סביבת המחשב והאינטרנט) בקרב תלמידים וסטודנטים.
במקביל, AI Light פותחת לשימוש הציבור הרחב בוט חופשי וחינמי בווטסאפ המאפשר קבלת תשובה מהירה ופשוטה בנוגע לקישורים, תמונות וקובצי וידאו שכל משתמש יכול להעביר לבדיקה. בתום הבדיקה, שאורכת מספר שניות, מקבל המשתמש חיווי האם מדובר בתוכן אמיתי, האם הוא נוצר ב-AI, עבר מניפולציה גרפית ועוד.
לכך יש להוסיף פיצ'רים נוספים כמו מודל המזהה את ההקשר שבו הובאו האלמנטים הנבדקים - לדוגמה, האם תמונה אכן צולמה היכן שנטען שצולמה, בתאריך שצולמה וכיו"ב; מודל הבוחן באמצעות ניטור שוטף של הרשת האם תוכן מסוים מופץ ברשת ללא רשות מטעם מי שיצר אותו - ומתריע על כך; פונקציית בדיקת עובדות - מודל המאמת את נכונות המידע שמכיל הטקסט הנבדק; ועוד.
נכון להיום, הפלטפורמה של AI Light מגיעה לרמת דיוק גבוהה מאוד (כ-90%) בזיהוי תוכן מזויף ומניפולטיבי. רמת דיוק זו היא תוצאה של פיתוח מתמשך, אימון המודלים על מאגרי מידע עצומים, ושיפור מתמיד על בסיס הפידבקים שמתקבלים ממשתמשים מקצועיים."
סכנה מוחשית לאנושות
בעידן שבו מידע כוזב ולעיתים מניפולטיבי מציף את הרשתות החברתיות ואת אמצעי התקשורת, AI Light מציעה כלי טכנולוגי שמספק פתרון מקיף להתמודדות עם האתגר שלמעשה הפך לסכנה שמערערת את הסדר העולמי, ומאפשר לנו להשיב על השאלה שכל אחד מאיתנו שואל את עצמו לפחות פעם אחת ביום: זה אמיתי או פייק?
דו"ח הסיכונים הגלובליים של הפורום הכלכלי העולמי (WEF), שפורסם לאחרונה, קבע שהסכנה הגדולה ביותר לאנושות - לפחות בטווח הקצר - היא מידע שגוי (מיס-אינפורמציה) ומידע שקרי (דיס-אינפורמציה). ואכן, בשנים האחרונות, אנו עדים לתופעה מדאיגה של הפצת מידע שגוי, מזויף ולעיתים מניפולטיבי ברחבי העולם בניסיון להשפיע על דעת הקהל, לשנות את סדר היום הציבורי, להטות בחירות ואף לשנות תפיסת מציאות (הנדסת תודעה).
תוכן זה, הכולל סרטונים, תמונות וטקסטים מזויפים, מופץ במהירות עצומה ברשתות החברתיות ובאמצעי התקשורת המסורתיים ומשבש את היכולת של בני אדם לקיים שיח מושכל ולקבל החלטות הנשענות על עובדות שכולם מסכימים עליהן. תוצאה הרסנית נוספת היא פגיעה חמורה באמינות ובמוניטין של מקורות מידע, ערוצי תקשורת ויוצרי תוכן והקצנה מזיקה של השיח בתקשורת וברשתות החברתיות.
בהתאם, מחקר של גרטנר קובע כי עד 2028 צפויים להיות מושקעים כ-500 מיליארד דולר בפתרונות למניעת מידע שגוי. השוק הפוטנציאלי כולל כ-30,000 גופי תקשורת גלובליים, למעלה מ-3 מיליון אתרי תוכן, פלטפורמות מדיה מקוונת ומשפיענים, וכן כ-50 מגה-ארגוני עיתונות חוקרת ומחקר. מעבר לכך, שוק יוצרי התוכן העצמאיים שזקוקים לכלים לאימות תוכן מוערך בכ-200 מיליון משתמשים.
"פתרון מקיף לאתגר"
"אנו גאים להציג את OverSee כפתרון מקיף להתמודדות עם אתגר המידע הכוזב וזה שנוצר באמצעות בינה מלאכותית", אומרים מורין סארניו, מנכ"לית הסטארט-אפ וגיא רוזנטל, מנהל הטכנולוגיות, שייסדו את AI Light. שניהם שישמשו כבכירים בחברות היי-טק שונות בתפקידים בכירים מגוונים, ודרכיהם נפגשו בסטארט-אפ הישראלי Flow, שם שימשה סארניו כמנכ"לית ורוזנטל כסמנכ"ל אלגוריתמיקה. "אנו שמחים לראות כיצד החזון שלנו - למזער את היקף הפייק ניוז והשלכותיו ההרסניות ולקדם שיח מבוסס עובדות - קורם עור וגידים. לתפיסתנו, חיזוק אמון הציבור בכלי תקשורת מהימנים הראויים לכך הוא אחד מאבני הדרך המשמעותיות ביותר בדרך לשם, וזה בדיוק מה שהפלטפורמה שבנינו יודעת לעשות."
"במהלך השנה האחרונה עבדנו עם כלי תקשורת שונים, מוסדות אקדמיים ויוצרי תוכן, והבנו עד כמה פייק ניוז היא מגיפה של ממש ועד כמה נחושים בכלי התקשורת להתמודד איתה. ההיזונים החוזרים סייעו לנו לשפר ולייעל משמעותית את הפלטפורמה, וחיזקו את הביטחון שלנו ביכולת של הטכנולוגיה שלנו לחולל שינוי משמעותי בתחום. אנו מאמינים שהמערכת שפיתחנו תאפשר לארגוני תקשורת, פלטפורמות דיגיטליות ואנשים פרטיים להגן על האמת ולחזק את אמון הציבור במידע שהוא מקבל."