השבוע בבדיקה אקראית שערכו בדסק הערבית של מערכת "וואלה!", גילו עמיתינו שחיפושים מסויימים בשפה הערבית, הכוללים מושגים כמו זכריה זביידי, מי שהיה מפקד גדודי חללי אל-אקצה של הפת"ח בג'נין, חסן נסראללה, גדודי אל אקצה ואחרים בפייסבוק, מניבים את ההודעה הבאה:
"ייתכן שהחיפוש קשור לפעילות אלימה, מונעת משנאה או פלילית"
יש לנו כללי קהילה, כדי למנוע ולשבש פעילות אלימה, מונעת משנאה או פלילית
כשאנשים לא מצייתים לכללים, אנחנו מסירים תוכן, מגבילים או משביתים את החשבון שלהם"
בסיומה של ההודעה מציעה פייסבוק למשתמש או לחזור לפיד החדשות הכללי, או בכל זאת לצפות בתוצאות לאחר שהוזהר לגבי תוכנן.
ההודעה הזו היא פרי של פעולה קיצונית יחסית במדיה חברתית וברשת, המכונה עצירת חיפוש. המטרה היא למנוע מאנשים להיחשף לתכנים מסויימים או לחפש אחריהם, אם הם אכן, קשורים למעשים פליליים, טרור, מונעי שנאה או פשוט מסוכנים לציבור (תיכף נרחיב). זוהי פעולה שחברות טכנולוגיה כמו פייסבוק או גוגל נוקטות במשורה, אבל היא כן מהווה היום כלי מרכזי בארסנל של החברות הללו לעצירת תוכן לא הולם, שעלול להביא לפגיעות בנפש. אבל הפעולה הזו לא נולדה מתוך הריק.
בקרה חלשה במדינות שאינן דוברות אנגלית
במשך שנים ארוכות, גם בשימועים בקונגרס, הואשמה פייסבוק שהיא לא עושה די כדי לנקות את הרשת החברתית שלה מתכנים אלימים או מסיתים. בעדות שמסרו חושפי שחיתויות לנציבות ניירות ערך האמריקאית (SEC) ובקונגרס, כמו גם סדרת חשיפות של מסמכים פנימיים שכונו "מסמכי פייסבוק" על ידי שורה של כלי תקשורת מובילים בארצות הברית, התגלה שלא רק שהרשת החברתית נמצאת מאחור בניקיון של תכנים המסיתים לאלימות, ומנקה רק כ-40 אחוז או פחות מהם - במקרים מסויימים היא אף משכפלת את התכנים, או פשוט מאפשרת את קיומם כי זה עוזר לשורת הרווח שלה.
נזכיר אך בקיצור כי בעבר התגלה כי תכנים מסיתים בפייסבוק, כולל תכנים של תנועות טרור וארגוני פשע, נקשרו לאירועים כמו רצח העם הרוהינגי במינאמר, גיוס של מתנקשים צעירים עבור קרטל סמים מקסיקני שממש התגאה במעשיו על גבי הרשת החברתית והרשת פעלה לגביו באיטיות, כמו גם סחר בבני אדם לעבדות.
ואפילו חשבון בדיקה פיקטיבי שיצרו חוקרים של פייסבוק עצמה שנשא מאפיינים של אישה בצפון הודו - נחשף מיידית לביטויי שנאה אנטי מוסלמים, כולל מה שציין החוקר: "ראיתי יותר תמונות של אנשים מתים בשלושת השבועות האחרונים מכפי שראיתי בכל חיי".
"פייסבוק למדה בשיטתיות את מדיניותה בחו"ל, והייתה מודעת היטב לכך שבקרה חלשה יותר במדינות שאינן דוברות אנגלית חושפות את הפלטפורמה לניצול לרעה בידי גורמים שליליים ומשטרים אוטוריטריים", נכתב אז במסמכים הפנימיים שפורסמו בוושינגטון פוסט. המסמכים הראו כי רוב התקציב של פייסבוק למאבק בדיסאינפורמציה מוקצה לארצות הברית, אף שפחות מ-10% ממשתמשי הרשת בעולם הם אמריקנים.
המלחמה של פייסבוק בטרור
מה שמחזיר אותנו לגילויים של עמיתינו בדסק הערבית השבוע. מאז אותו שימוע בקונגרס, כולל העדות של פרנסס האגן, לפייסבוק למעשה לא הייתה ברירה, בשל לחץ בינלאומי שהופעל בנושאים הללו על החברה, כולל צעדים משמעותיים לחקיקה מצד הקונגרס האמריקאי, חוסר שקט שהחברה שבינתיים שינתה את שמה למטא, לא מחבבת.
לכן, מושגים מסויימים בשפות מסויימות, כמו למשל טרוריסטים ידועים בעולם הערבי כדוגמת זביידי ונסראללה, נחסמים בשפות האלה, כדי להקשות למשל על גיוס של נוער לתנועות טרור איסלאמי קיצוניות כדוגמת דאע"ש או החיזבאללה. או כמו שיש לשער, שמו של אותו קרטל סמים מקסיקני שגייס מתנקשים צעירים בפייסבוק, מן הסתם נחסם לדוברי ספרדית. הצעדים הללו הם חלק מהמענה של פייסבוק לביקרות ולחשיפות שעלו על חוסר המעש שלה בנושאים הללו עד כה. אגב, אם תחפשו מונחים כמו נסראללה או דאע"ש בעברית, לא תתקלו בהודעת אזהרת התוכן לעיל. באיחור לא מבוטל, החלה פייסבוק לטפל בתכנים המפירים הללו - גם לא בשפה האנגלית.
פנינו לפייסבוק לתגובה, אך זו לא התקבלה עד מועד פרסום הכתבה.