דאע"ש, נסראללה ואחמד יאסין: המושגים שלא תמצאו בפייסבוק בערבית

מבדיקה שערכה מערכת וואלה! טכנולוגיה התגלה כי פייסבוק חוסמת חיפושים מסויימים בערבית של אישי טרור כמו חסן נסראללה וארגונים כמו דאע"ש ואחרים. מה התהליכים שהובילו את פייסבוק להוסיף לאלה הודעת אזהרה?

29/04/2022
מטא(צילום: רויטרס)

השבוע בבדיקה אקראית שערכו בדסק הערבית של מערכת "וואלה!", גילו עמיתינו שחיפושים מסויימים בשפה הערבית, הכוללים מושגים כמו זכריה זביידי, מי שהיה מפקד גדודי חללי אל-אקצה של הפת"ח בג'נין, חסן נסראללה, גדודי אל אקצה ואחרים בפייסבוק, מניבים את ההודעה הבאה:

עוד בוואלה!

הכל מתחיל בעיניים: הסוד האמיתי של לאה שנירר ומיה דגן למראה צעיר

בשיתוף קליניק

"ייתכן שהחיפוש קשור לפעילות אלימה, מונעת משנאה או פלילית"
יש לנו כללי קהילה, כדי למנוע ולשבש פעילות אלימה, מונעת משנאה או פלילית
כשאנשים לא מצייתים לכללים, אנחנו מסירים תוכן, מגבילים או משביתים את החשבון שלהם"


בסיומה של ההודעה מציעה פייסבוק למשתמש או לחזור לפיד החדשות הכללי, או בכל זאת לצפות בתוצאות לאחר שהוזהר לגבי תוכנן.

"ייתכן שהחיפוש קשור לפעילות אלימה, מונעת משנאה או פלילית". ההודעה של פייסבוק(צילום: צילום מסך, וואלה!)
בסיומה של ההודעה מציעה פייסבוק למשתמש או לחזור לפיד החדשות הכללי(צילום: צילום מסך, וואלה!)

ההודעה הזו היא פרי של פעולה קיצונית יחסית במדיה חברתית וברשת, המכונה עצירת חיפוש. המטרה היא למנוע מאנשים להיחשף לתכנים מסויימים או לחפש אחריהם, אם הם אכן, קשורים למעשים פליליים, טרור, מונעי שנאה או פשוט מסוכנים לציבור (תיכף נרחיב). זוהי פעולה שחברות טכנולוגיה כמו פייסבוק או גוגל נוקטות במשורה, אבל היא כן מהווה היום כלי מרכזי בארסנל של החברות הללו לעצירת תוכן לא הולם, שעלול להביא לפגיעות בנפש. אבל הפעולה הזו לא נולדה מתוך הריק.

מזכ"ל חיזבאללה חסן נסראללה בנאום לרגל העשוראא, 19 באוגוסט 2021. רויטרס
לא ניתן לחפש בפייסבוק בערבית: מזכ"ל חיזבאללה, חסן נסראללה(צילום: רויטרס)

בקרה חלשה במדינות שאינן דוברות אנגלית

במשך שנים ארוכות, גם בשימועים בקונגרס, הואשמה פייסבוק שהיא לא עושה די כדי לנקות את הרשת החברתית שלה מתכנים אלימים או מסיתים. בעדות שמסרו חושפי שחיתויות לנציבות ניירות ערך האמריקאית (SEC) ובקונגרס, כמו גם סדרת חשיפות של מסמכים פנימיים שכונו "מסמכי פייסבוק" על ידי שורה של כלי תקשורת מובילים בארצות הברית, התגלה שלא רק שהרשת החברתית נמצאת מאחור בניקיון של תכנים המסיתים לאלימות, ומנקה רק כ-40 אחוז או פחות מהם - במקרים מסויימים היא אף משכפלת את התכנים, או פשוט מאפשרת את קיומם כי זה עוזר לשורת הרווח שלה.

זכריה זביידי – מושג המונע משנאה(צילום: רוני כנפו)

נזכיר אך בקיצור כי בעבר התגלה כי תכנים מסיתים בפייסבוק, כולל תכנים של תנועות טרור וארגוני פשע, נקשרו לאירועים כמו רצח העם הרוהינגי במינאמר, גיוס של מתנקשים צעירים עבור קרטל סמים מקסיקני שממש התגאה במעשיו על גבי הרשת החברתית והרשת פעלה לגביו באיטיות, כמו גם סחר בבני אדם לעבדות.

פייסבוק הואשמה שהיא לא עושה די כדי לנקות את הרשת החברתית. צוקרברג בשימוע(צילום: רויטרס)

ואפילו חשבון בדיקה פיקטיבי שיצרו חוקרים של פייסבוק עצמה שנשא מאפיינים של אישה בצפון הודו - נחשף מיידית לביטויי שנאה אנטי מוסלמים, כולל מה שציין החוקר: "ראיתי יותר תמונות של אנשים מתים בשלושת השבועות האחרונים מכפי שראיתי בכל חיי".

"פייסבוק למדה בשיטתיות את מדיניותה בחו"ל, והייתה מודעת היטב לכך שבקרה חלשה יותר במדינות שאינן דוברות אנגלית חושפות את הפלטפורמה לניצול לרעה בידי גורמים שליליים ומשטרים אוטוריטריים", נכתב אז במסמכים הפנימיים שפורסמו בוושינגטון פוסט. המסמכים הראו כי רוב התקציב של פייסבוק למאבק בדיסאינפורמציה מוקצה לארצות הברית, אף שפחות מ-10% ממשתמשי הרשת בעולם הם אמריקנים.

בקרה חלשה במדינות שאינן דוברות אנגלית. פייסבוק(צילום: ShutterStock)

המלחמה של פייסבוק בטרור

מה שמחזיר אותנו לגילויים של עמיתינו בדסק הערבית השבוע. מאז אותו שימוע בקונגרס, כולל העדות של פרנסס האגן, לפייסבוק למעשה לא הייתה ברירה, בשל לחץ בינלאומי שהופעל בנושאים הללו על החברה, כולל צעדים משמעותיים לחקיקה מצד הקונגרס האמריקאי, חוסר שקט שהחברה שבינתיים שינתה את שמה למטא, לא מחבבת.

לכן, מושגים מסויימים בשפות מסויימות, כמו למשל טרוריסטים ידועים בעולם הערבי כדוגמת זביידי ונסראללה, נחסמים בשפות האלה, כדי להקשות למשל על גיוס של נוער לתנועות טרור איסלאמי קיצוניות כדוגמת דאע"ש או החיזבאללה. או כמו שיש לשער, שמו של אותו קרטל סמים מקסיקני שגייס מתנקשים צעירים בפייסבוק, מן הסתם נחסם לדוברי ספרדית. הצעדים הללו הם חלק מהמענה של פייסבוק לביקרות ולחשיפות שעלו על חוסר המעש שלה בנושאים הללו עד כה. אגב, אם תחפשו מונחים כמו נסראללה או דאע"ש בעברית, לא תתקלו בהודעת אזהרת התוכן לעיל. באיחור לא מבוטל, החלה פייסבוק לטפל בתכנים המפירים הללו - גם לא בשפה האנגלית.

פנינו לפייסבוק לתגובה, אך זו לא התקבלה עד מועד פרסום הכתבה.

טרם התפרסמו תגובות

הוסף תגובה חדשה

+
בשליחת תגובה אני מסכים/ה
    walla_ssr_page_has_been_loaded_successfully