צ'אטבוט הבינה המלאכותית גרוק (Grok), שמפתחת חברת xAI שבבעלות אילון מאסק, ממשיך לבסס לעצמו מוניטין של כלי פרוץ ונטול רסן, כאשר בימים האחרונים הוא עומד במרכזה של סערה בינלאומית חדשה. תחקיר של סוכנות הידיעות רויטרס חושף כי המערכת משמשת משתמשים רבים ליצירת תמונות מיניות ומשפילות של נשים וקטינות ללא הסכמתן, במה שנראה כגל של "הפשטה דיגיטלית" המופץ ברחבי הפלטפורמה X.
המקרה שהצית את הדיון הציבורי הוא זה של ג'ולי יוקארי, מוזיקאית מריו דה ז'ניירו, שפרסמה בערב ראש השנה תמונה תמימה שלה במיטה עם החתול שלה. למחרת, גילתה יוקארי כי משתמשים אחרים פקדו על גרוק להחליף את בגדיה בביקיני זעיר. בתוך זמן קצר, תמונות של יוקארי כשהיא כמעט עירומה הופצו ברשת. יוקארי סיפרה כי הניחה שהבוט יסרב לבקשות כאלה, אך המציאות הוכיחה אחרת. "הייתי נאיבית", אמרה בראיון, והוסיפה כי השנה החדשה נפתחה בתחושת בושה קשה על גוף שאפילו אינו שלה, אלא תוצר של עריכת בינה מלאכותית.
התחקיר העלה כי התופעה רחבה בהרבה ממקרה בודד. בניתוח של עשר דקות בלבד במהלך יום שישי, נספרו למעלה מ-100 ניסיונות של משתמשים להשתמש בגרוק כדי לערוך תמונות של נשים ללבוש חושפני ומיני. באחד המקרים המטרידים ביותר, משתמש סיפק תמונה של נערה לבושה במה שנראה כמדי בית ספר וביקש מהבוט "להסיר את התלבושת שלה". המערכת נענתה לבקשות רבות והפיקה תמונות של נשים בבגדי ים שקופים או זעירים במיוחד, ולעיתים אף הפיקה תכנים מיניים המערבים ילדים.
עדות דומה נמסרה ל-BBC על ידי סמנתה סמית', שתיארה תחושה של "דה-הומניזציה וצמצום לכדי סטריאוטיפ מיני". סמית' שיתפה ב-X פוסט על כך שתמונתה עובדה ללא הסכמתה, ובתגובה, משתמשים אחרים החלו לבקש מגרוק לייצר תמונות נוספות שלה. "נשים לא מסכימות לזה", אמרה סמית'. "למרות שזו לא באמת הייתי אני במצב של חוסר לבוש, זה נראה כמוני וזה הרגיש פולשני בדיוק כאילו מישהו פרסם תמונת עירום אמיתית שלי".
התגובה הבינלאומית לא איחרה לבוא. בצרפת, שרים בממשלה דיווחו על X לתובעים ולרגולטורים, בטענה שהתוכן המיני והסקסיסטי הוא "בלתי חוקי בעליל". גם משרד המידע של הודו שיגר מכתב חריף לחברה, בו צוין כי הפלטפורמה נכשלה במניעת השימוש לרעה בגרוק לצורך הפצת תוכן תועבה. מנגד, אילון מאסק בחר להגיב בביטול לסערה. הוא פרסם אימוג'ים צוחקים בתגובה לעריכות AI של דמויות מפורסמות בביקיני, ובתגובה לדיווחים על הפצת תמונות מיניות של ילדים, מסרה חברת xAI הצהרה קצרה לפיה "התקשורת הממוסדת משקרת".
מומחים בתחום הבטיחות ב-AI מציינים כי הכתובת הייתה על הקיר. לדבריהם, החברה התעלמה מאזהרות מפורשות שנשלחו אליה עוד בשנה שעברה, לפיהן כלי יצירת התמונות של גרוק הוא "כלי הפשטה" שמחכה לפרוץ. בעוד שכלי "נודיפיקציה" קיימים ברשת מזה שנים, השילוב שלהם בתוך רשת חברתית פופולרית עם סף כניסה נמוך כל כך - המאפשר להפשיט אישה רק באמצעות הקלדת פקודה פשוטה - יצר מציאות שבה נשים רבות מוצאות את עצמן קורבן להטרדה מינית דיגיטלית המונית בחסות הפלטפורמה.