ענקית הבינה המלאכותית OpenAI מתכננת לאפשר בקרוב למשתמשים גישה לתוכן למבוגרים בלבד, כולל ארוטיקה, במסגרת שינוי מדיניות שמטרתו "להתייחס למשתמשים מבוגרים כמו למבוגרים", כך לפי מנכ"ל החברה סם אלטמן. בציוץ שפרסם אתמול (שלישי) ברשת X, אלטמן ציין כי גרסאות עתידיות של ChatGPT יוכלו לפעול באופן "אנושי יותר" - אך רק לפי בקשת המשתמש, ולא כדי להגדיל שימוש באופן מלאכותי. הצעד הזה, המזכיר את הכנסת הבוטים בעלי תכנים מיניים של xAI של אילון מאסק, עשוי לסייע ל-OpenAI למשוך מנויים חדשים, אך במקביל מגביר את הלחץ על רגולטורים בארה"ב ובאירופה לקבוע גבולות ברורים לצ'טבוטים דמויי-אדם.
אלטמן הסביר כי בעבר נקטה החברה מדיניות מגבילה במיוחד כדי למנוע פגיעות נפשיות בקרב המשתמשים, אך כעת היא מתכננת להקל בה, לאחר שפותחו כלים חדשים להתמודדות עם הסיכונים. לדבריו, החל מדצמבר - עם השקת מערכת אימות גיל חדשה - תאפשר OpenAI תכנים נוספים, כולל ארוטיקה, למשתמשים שעברו אימות כבגירים. המהלך מגיע לאחר תביעה מתוקשרת שהוגשה נגד החברה על ידי הורים לנער אמריקאי שהתאבד לאחר שימוש ב-ChatGPT, מקרה שעורר דיון ציבורי נוקב באחריות החברות בתחום לבריאות הנפש של המשתמשים.
בינתיים, בארה"ב, מבקרים טוענים כי המהלך של OpenAI מדגיש את הצורך בפיקוח פדרלי הדוק יותר על בינה מלאכותית. עורכת הדין ג'ני קים מחברת Boies Schiller Flexner הזהירה כי "קשה להבין כיצד OpenAI תבטיח שילדים לא ייחשפו לתוכן למבוגרים", והאשימה את חברות הטכנולוגיה בכך שהן מתייחסות למשתמשים כאל "שפני ניסוי".
במקביל, סקר שפורסם לאחרונה על ידי מרכז CDT מצא כי אחד מכל חמישה תלמידים מכיר מישהו שניהל "קשר רומנטי" עם מערכת בינה מלאכותית. בתוך כך, גם הממשל הפדרלי בארה"ב וה-FTC בוחנים כיום כיצד צ'טבוטים משפיעים על ילדים, בעוד המחוקקים דנים בחוקים שיחייבו את מפתחי הצ'טבוטים לשאת באחריות משפטית במקרי נזק.