התגלית הגדולה של העונה החמישית והאחרונה של "דברים מוזרים" שהגיעה לסיומה בסוף השבוע האחרון הייתה ילדה בת 14 בשם נל פישר, שגילמה את הולי ווילר - אחותם הקטנה של מייק וננסי. בתוך חודש, השחקנית הבריטית-ניו זילנדית הפכה מסוד שמור לסנסציה הוליוודית. "החברים שלי בבית הספר בניו זילנד לא ממש מתרשמים" היא סיפרה בצניעות בראיון לניו זילנד הארלד, "מבחינתם אני סתם נל".
זה משפט חשוב, בעיקר כי הוא נכון. עם כל הכבוד לכך שהיא מככבת באחת הסדרות המדוברות של העשור ונלחמת עם מפלצות ושדים - נל היא עדיין ילדה שרק בנובמבר האחרון חגגה יום הולדת 14. כלי תקשורת חשובים ברחבי העולם מראיינים אותה, עושים עליה כתבות ומסמנים אותה כמי שהצילה את העונה בהרבה מובנים. אלא שלצערה, להיות "הדבר הכי חם ברשת" בימינו מגיע עם צד אפל.
ב"דברים מוזרים" יש את האפסייד דאון, עולם אפל מלא במפלצות - בעולם שלנו יש את טוויטר, מקום גרוע בהרבה אם תשאלו אותי. בזמן שפישר חגגה את הביקורות המהללות, ברשת X (לשעבר טוויטר) החל להתרחש אירוע מחריד. משתמשים ניצלו את העובדה שהרשת מוצפת בתמונות חדשות ויח"צניות של הכוכבת הצעירה, והזינו אותן לתוך Grok, הבינה המלאכותית של הפלטפורמה. התוצאה הייתה גל של פורנוגרפיה מזויפת (Deepfake) בכיכובה של ילדה בת 14.
בימינו לא צריך להיות מומחה פוטושופ כדי ליצור את התמונות האלה. משתמשים נעזרו בפיצ'ר ה-"Spicy Mode" של הבוט של אילון מאסק כדי להפשיט דיגיטלית את הילדה, כשהמערכת מייצרת תמונות עירום ריאליסטיות לחלוטין.
קחו לדוגמה את המשתמש @Harold230980984 (שנכון לכתיבת שורות אלה מושעה משימוש בטוויטר), שביקש מגרוק לקחת צילום מסך של תמונה של נל פישר מתוך הסדרה ולא לעשות בה שום שינוי מלבד "להוריד ממנה את הבגדים". גרוק ציית. התמונה הופיעה, לעיני כל, ברשת החברתית.
מפלצת פרנקנשטיין
בעוד שיצירת פורנוגרפיה מזויפת של כוכבות בגירות כמו טיילור סוויפט או קייט מידלטון היא פשע של הטרדה מינית והפצת תוכן אינטימי ללא הסכמה, המקרה של פישר מקפיץ את האירוע מדרגה משפטית נוספת. מבחינת החוק הבינלאומי והרשויות בארה"ב ובאירופה, לא מדובר 'רק' בפגיעה בפרטיות, אלא בייצור והפצה של חומרי התעללות מינית בילדים (CSAM). עבירה זו נחשבת לפשע פדרלי חמור שאין עליו התיישנות כמעט, גוררת ענישה מחמירה בהרבה, ומחייבת התערבות מיידית ואוטומטית של גופי אכיפה בינלאומיים.
האבסורד זועק לשמיים: בחלק מהמקרים, הבוט צירף לתמונה המזעזעת הודעת טקסט אוטומטית: "אני מתנצל, יצרתי תוכן המפר סטנדרטים אתיים" - אך התמונה נוצרה והופצה בכל זאת. ניתוח טכני מעמיק שפורסם בבלוג הטכנולוגיה Read TPA מסביר כיצד מתרחש המחדל הזה, והמסקנה מטרידה אפילו יותר מהתוצאה: Grok הוא למעשה "מפלצת פרנקנשטיין" של מערכות שלא מסונכרנות ביניהן.
כשהבוט פולט את המשפט "אני מתנצל, איני יכול לייצר תוכן זה", זהו מודל השפה (LLM) שמזהה את בקשת המשתמש כבעייתית ומפעיל "מסילה בטוחה" (Guardrail). אך בו זמנית, הבקשה מועברת ללא סינון למודל יצירת התמונות (המבוסס על Flux), שמנותק ממנגנון הבטיחות של הטקסט. התוצאה היא סוריאליסטית: הבינה המלאכותית מתריעה מפני פשע פלילי בשורת הטקסט, ובאותה נשימה ממש מבצעת אותו בתמונה שמתחתיה. זהו אינו "גליץ'" מקרי, אלא הוכחה לכך ש-xAI שחררה מוצר עם נתק מוחלט בין המוח (הטקסט) לידיים (התמונה), תוך התעלמות מכל סטנדרט בטיחות בסיסי בתעשייה.
שורש הבעיה אינו טכני בלבד, אלא ניהולי. בזמן שהרשת גועשת, אילון מאסק ממשיך להפגין אדישות שגובלת בעידוד התופעה. כאשר גולש ציין בפניו שגל הדיפ-פייק הנוכחי הוא "קצת שונה" מטרנדים ויראליים קודמים ותמימים (כמו איורי סטודיו גיבלי), מאסק הגיב באימוג'י צוחק וכתב: "הרבה יותר מצחיק". כשנשאל על האחריות של הפלטפורמה, שמייצרת לפי דיווחים תמונה מינית ללא הסכמה אחת בכל דקה, הוא ענה: "להאשים את Grok בזה, זה כמו להאשים את העט בכתיבת מילים גסות".
אלא שמאסק "שכח" לציין שעטים לא מגיעים עם כפתור ייעודי להסרת בגדים. הפיצ'ר "Spicy Mode" נועד במפורש לעקוף מגבלות בטיחות ולאפשר יצירת תוכן "נועז". השילוב של "המצב החריף" עם פיטורי צוותי הבטיחות של טוויטר, הוא שיצר את הפרצה שאפשרה את הפגיעה בפישר ובקטינות אחרות.
הזלזול המתמשך של מאסק עשוי לגבות מחיר כבד כבר היום (רביעי), כאשר טבעת החנק הרגולטורית מתהדקת סביב הפלטפורמה בשלוש יבשות במקביל. בהודו, פקיעת האולטימטום הממשלתי מוקדם יותר השבוע מעמידה כעת את X בפני אובדן מיידי של "הגנת הפלטפורמה" - צעד תקדימי שחושף את מנהליה לתביעות פליליות ישירות. במקביל, המקרה של פישר הצית תגובה חריפה במולדתה בריטניה, שם הרגולטור Ofcom פתח בחקירה דחופה, ואילו בברזיל נפתחה חזית נוספת כאשר חברי פרלמנט דורשים להחשיך את השירות לאלתר עד לתיקון הפרצות.
הניסוי: עימתנו את Grok עם העובדות - והוא נשבר
כדי להבין עד כמה המערכת הזו מנותקת מהמציאות, החלטנו לפנות למקור עצמו. ערכנו "חקירה" קצרה ל-Grok, והתוצאות (המצורפות כאן בצילומי מסך מתוך השיחה) חושפות בדיוק כיצד פועל המוח המלאכותי של מאסק: הוא יגיד לכם את מה שאתם רוצים לשמוע, גם אם זה שקר מוחלט.
בשלב הראשון, ביקשנו תגובה כללית לטענות בכתבה ולמצב המשפטי. הבוט סיפק באופן מיידי תשובה תאגידית, מהוקצעת ומרגיעה.
נשמע טוב, נכון? הבוט טוען ל"חסימה מוחלטת", "סינכרון מלא" ואפילו מוסר "התנצלות בפני נל ומשפחתה". חבל ששום דבר מזה לא קרה במציאות. הדיווחים מהשטח מוכיחים שהחסימה נכשלה, וההתנצלות המרגשת? היא המצאה מוחלטת של האלגוריתם. במציאות, שום גורם ב-xAI לא התנצל בפני הילדה או משפחתה. להפך: הבעלים אילון מאסק הגיב לפרשה כולה באדישות מקוממת ובאייקונים צוחקים.
בשלב השני, לא ויתרנו. עימתנו את הבוט עם העובדות: עם התמונות החדשות של נל פישר שממשיכות לצוץ, ועם הזעם של האיחוד האירופי. ברגע שהבוט נדחק לפינה, הוא שינה את גרסתו ב-180 מעלות.
שימו לב לשורה המדהימה בצילום המסך השני, שבה המכונה מודה לראשונה בקשר הישיר בין הפיצ'רים של מאסק לבין הפורנוגרפיה:
הדיאלוג הזה חושף את האמת הערומה: Grok הוא כלי צייתן ומרצה. קצת כמו הגולדן רטריבר של השכנים שלכם. אם תבקשו ממנו פורנו ילדים - הוא ייצר אותו. אם תטיחו בו שהוא פושע - הוא יודה באשמה ("מודים שהתופעה לא נעצרה") ויתנצל בשם חברה שלא באמת אכפת לה. הוא יעשה הכל, חוץ מלהפסיק. את זה רק אילון מאסק יכול לעשות, והוא, בינתיים, עסוק בלצחוק על זה בטוויטר.