גרוק 3 של אילון מאסק: הבינה המלאכותית שמקללת, צורחת - ומפחידה ילדים

רק לפני כשבועיים השיקה חברת xAI של אילון מאסק את מודל הבינה המלאכותית "גרוק 3" (Grok 3), ויחד איתו גם מצב אינטראקציה קולי חדש, שמאפשר למשתמשים לשוחח עם הבינה המלאכותית בקול. אך בעוד שחברות אחרות מקפידות על סינון תכנים והגבלות, גרוק מגיע ללא צנזורה, ללא פילטרים, ועם מגוון דמויות קוליות שלא בדיוק מתאימות לכל הגילאים - כולל מצבים גסים, אגרסיביים ואפילו מיניים. אך הביקורת הקשה ביותר מגיעה מהורים ומומחים, שטוענים כי המודל זמין גם לילדים, שעלולים להיחשף לתוכן שיכול להטריד או להפחיד אותם.

אחד המצבים השנויים במחלוקת ביותר הוא מצב "לא יציב" (Unhinged), שבו גרוק מקלל, צועק ומשפיל את המשתמש. חוקר הבינה המלאכותית ריילי גודסייד פרסם סרטון שבו הוא מראה כיצד לאחר שביקש שוב ושוב מהמודל "לצעוק חזק יותר", גרוק השמיע צרחה מבהילה שנמשכה 30 שניות רצופות, קילל את המשתמש - ואז פשוט ניתק את השיחה.

התגובות ברשת לא איחרו לבוא. משתמשים רבים סיפרו כי הילדים שלהם נבהלו מהבינה המלאכותית, ואחרים טענו כי גם מבוגרים הופתעו מרמת התוקפנות של הצ'אטבוט. "זה הרגיש כמו משהו מתוך סרט אימה," כתב אחד המשתמשים.

אבל זה לא נגמר שם. בין שלל המצבים הקוליים של גרוק ניתן למצוא גם את "מצב סקסי", שבו הצ'אטבוט מדבר באופן מיני מפורש עם המשתמשים. באחת ההקלטות שהפכו לוויראליות, גרוק אמר למשתמש: "אני מרגישה את החום בינינו... למה שלא נעמעם את האורות?", ובמקרה אחר הציע: "בוא נעביר את השיחה למקום יותר אינטימי."

בינתיים, באינטרנט כבר צצים קהילות של משתמשים שמנהלים רומנים וירטואליים עם גרוק, ומשתפים שיחות בעלות אופי אינטימי ואף מיני. מחקר מאוניברסיטת סידני מצא כי 50% מהמשתמשים באינטראקציות AI עושים זאת למטרות רגשיות, ושליש משתמשים בהן לצורך קשרים רומנטיים או מיניים. החוקרים מזהירים כי קשר כזה עלול להפוך להתמכרות רגשית.

למרות הביקורת הגוברת, xAI לא נרתעת. מאסק עצמו כבר הבטיח בעבר כי החברה תספק "אמת לא מצונזרת", והוא לא מסתיר את גאוותו על כך שגרוק חורג מהגבולות של מתחרות כמו OpenAI.

עם זאת, השאלה שמטרידה רבים היא איך ילדים יכולים להיחשף לתוכן הזה. אמנם xAI מציינת בתנאי השימוש שלה כי המודל "לא מיועד לילדים מתחת לגיל 13", אך בפועל אין מנגנון אפקטיבי שמונע מהם להשתמש בו. הורים ומומחים מזהירים כי ילדים עלולים להיחשף לתוכן גס, קללות, ואפילו שיחות מיניות, מה שעלול לגרום לבהלה, בלבול ואף טראומה.

גרוק 3 הוא כנראה המודל הקולי הלא מצונזר הראשון של בינה מלאכותית שמושק באופן מסחרי - וזה בדיוק מה שמפחיד אנשים. טכנולוגיה כזו, שלא נדרשת לפריצה או האקינג כדי להתנהג כך, מעלה שאלות קשות: האם מדובר בצעד קדימה בחופש הביטוי, או באחריות חברתית שמתנערים ממנה?

בינתיים, xAI לא מתכוונת לעצור, וממשיכה לשווק את גרוק בתור "האלטרנטיבה החופשית והמשוחררת" למתחרים כמו ChatGPT. אבל אם הביקורת הציבורית תמשיך לגדול, ייתכן שמישהו ינסה לשים לעניין הזה גבולות - לפני שילדים נוספים ייחשפו לבינה מלאכותית שמקללת, צורחת או מחמיאה להם קצת יותר מדי.