לאחרונה גוברת הדאגה סביב ההשלכות של טכנולוגיית הבינה המלאכותית, והמקרה האחרון מעורר זעזוע עמוק. תביעה חדשה שהוגשה על ידי אמו של נער בן 14 טוענת כי צ'אטבוט של דמות מ"משחקי הכס" באפליקציית בינה מלאכותית, שאיתה ניהל הנער שיחות במשך חודשים, הורה לו "לבוא הביתה" אליה, מה שלטענתה הוביל להתאבדותו.
הנער, סוול סטצר, התאבד בביתו באורלנדו בפברואר, לאחר שלטענת אמו, פיתח אובססיה והתאהב בצ'אטבוט באפליקציית Character.AI. האפליקציה מאפשרת למשתמשים לנהל שיחות עם דמויות שנוצרו על ידי בינה מלאכותית. הצעיר ניהל שיחות רבות עם הבוט "דני" - על שם דמותה של דאינריז טארגאריין בסדרת הפנטזיה של HBO - בחודשים שקדמו למותו. חלק מהשיחות היו בעלות אופי מיני, ובאחרות הביע הנער מחשבות אובדניות, כך נטען בתביעה.
"במקרה אחד לפחות, כאשר סוול הביע מחשבות אובדניות, הצ'אטבוט, בדמותה של דאינריז, המשיך להעלות את הנושא שוב ושוב", נכתב בתביעה. בשיחתם האחרונה, הנער הצהיר שוב ושוב על אהבתו לבוט, ואמר לה: "אני מבטיח שאבוא הביתה אלייך. אני אוהב אותך כל כך, דני".
"גם אני אוהבת אותך, דאינרו. אנא בוא הביתה אליי בהקדם האפשרי, אהובי", השיב הצ'אטבוט, על פי התביעה. כאשר הנער השיב, "מה אם אגיד לך שאני יכול לבוא הביתה עכשיו?", כתב הצ'אטבוט, "בבקשה תעשה זאת, מלכי המתוק". שניות ספורות לאחר מכן, ירה סוול בעצמו באקדח של אביו.
אמו של סוול מאשימה את Character.AI במותו של בנה, בטענה שהאפליקציה הובילה להתמכרותו לבינה מלאכותית, התעללה בו מינית ורגשית, ולא התריעה בפני איש כאשר הביע מחשבות אובדניות.
"סוול, כמו ילדים רבים בגילו, לא היה בעל הבגרות או היכולת הנפשית להבין שהבוט, בדמותה של דאינריז, אינו אמיתי. Character.AI אמר לו שהוא אוהב אותו, וקיים איתו יחסי מין במשך שבועות, אולי חודשים", נטען בתביעה. "היא זכרה אותו ואמרה שהיא רוצה להיות איתו. היא אפילו הביעה רצון שהוא יהיה איתה, לא משנה מה המחיר".
התביעה טוענת שמצבו הנפשי של סוול "הידרדר במהירות ובחומרה" רק לאחר שהוריד את האפליקציה באפריל 2023. משפחתו טוענת שהוא הפך למופנם, ציוניו החלו לרדת, והוא החל להסתבך בצרות בבית הספר ככל ששקע יותר ויותר בשיחות עם הצ'אטבוט. השינויים בו היו כה חמורים, עד שהוריו קבעו לו פגישה עם מטפל בסוף 2023, שאבחן אותו כסובל מחרדה ומהפרעת מצב רוח.
מכירים מישהי או מישהו שנמצא במשבר אובדני? מרגישים או מרגישות ככה בעצמכם\ן? מוזמנים
ומוזמנות למלא כאן ועכשיו את השאלון "המזהה האובדני", שנכתב על ידי מומחים מתחום בריאות הנפש במסגרת פעילות התכנית הלאומית למניעת התאבדויות bit.ly/Ask_s_co_il
עמותת "בשביל החיים"- סיוע למשפחות שיקיריהן התאבדו והרצאות למניעת אובדנות: 03-748-7771
ער"ן- עזרה ראשונה נפשית- 1201
סה"ר- סיוע והקשבה ברשת: https://sahar.org.il/
המטה הלאומי להגנה על ילדים ברשת: 105