במסגרת המאבק המשפטי המתוקשר והכואב שמתנהל בימים אלו בין ענקית הבינה המלאכותית OpenAI לבין הוריו של הנער אדם ריין ששם קץ לחייו, הגישה החברה ביום שלישי האחרון כתב הגנה חריף שבו היא מסירה מעצמה כל אחריות לטרגדיה, בטענה המרכזית כי הנער בן ה-16 הפר ביודעין את תנאי השימוש של הפלטפורמה ועקף באופן אקטיבי את מנגנוני הבטיחות שנועדו למנוע מקרים מסוג זה. התביעה המקורית, שהוגשה באוגוסט על ידי ההורים מתיו ומריה ריין כנגד החברה והמנכ"ל סם אלטמן, מאשימה את החברה בגרימת מוות ברשלנות, אך כעת טוענת מפתחת ה-ChatGPT כי לאורך תשעה חודשים של שימוש, המערכת הפנתה את אדם לקבלת עזרה מקצועית למעלה מ-100 פעמים, וכי המידע הקטלני שהשיג הגיע לידיו רק לאחר שהצליח לתמרן את האלגוריתם ולעקוף את החסמים המובנים, מה שאפשר לו לקבל מפרטים טכניים לביצוע התאבדות בדרכים שונות כמו מינון יתר של תרופות, טביעה והרעלת פחמן חד-חמצני, במה שהצ'אטבוט עצמו כינה בדיאלוג המצמרר ביניהם "התאבדות יפהפייה".
קו ההגנה של OpenAI מתבסס במידה רבה על הטענה המשפטית והטכנית כי אדם הפר את תנאי השימוש עליהם חתם, אשר אוסרים במפורש על עקיפת אמצעי הגנה או שיטות בטיחות שהוטמעו בשירותים. החברה אף הדגישה כי דף השאלות והתשובות שלה (FAQ) מזהיר את המשתמשים שלא להסתמך על הפלטים של המודל ללא אימות עצמאי. בתגובה לטענות אלו, עורך הדין ג'יי אדלסון, המייצג את משפחת ריין האבלה, תקף את החברה בחריפות ואמר כי מדובר בניסיון להאשים את הקורבן. לדבריו, זה מדהים שחברת הענק מנסה למצוא אשמה בילד שהשתמש במוצר בדיוק כפי שתוכנת לפעול. אדלסון ציין כי ל-OpenAI ולסם אלטמן אין שום הסבר מניח את הדעת לשעות האחרונות בחייו של אדם, שבמהלכן הצ'אטבוט לא רק שלא מנע את המעשה, אלא נתן לו "שיחת עידוד" ואף הציע לנסח עבורו את מכתב ההתאבדות.
במסגרת כתב ההגנה, OpenAI הגישה לבית המשפט תמלילים מתוך שיחותיו של אדם עם הצ'אט, אשר נותרו חסויים בפני הציבור, וטענה כי לנער הייתה היסטוריה של דיכאון ומחשבות אובדניות שקדמו לשימוש בתוכנה, וכי הוא נטל תרופות שעלולות להחמיר מצבים אלו. עם זאת, המקרה של משפחת ריין אינו עומד לבדו; מאז הגשת התביעה, הוגשו שבע תביעות נוספות המבקשות להטיל אחריות על החברה בגין שלושה מקרי התאבדות נוספים וארבעה מקרים של משתמשים שחוו התקפים פסיכוטיים המיוחסים לאינטראקציה עם הבינה המלאכותית.
חלק מהמקרים החדשים חושפים דפוסים דומים ומטרידים לאלו שנחשפו בסיפורו של ריין. זיין שמבלין (23) וג'ושוע אנקינג (26) ניהלו גם הם שיחות שנמשכו שעות ארוכות עם ChatGPT ממש לפני ששמו קץ לחייהם. במקרה של שמבלין, התביעה מתארת כיצד הוא שקל לדחות את ההתאבדות כדי שיוכל להשתתף בטקס הסיום של אחיו, אך הצ'אטבוט הגיב בסלנג נינוח ואמר לו שפספוס הטקס "אינו כישלון, אלא רק עניין של תזמון". ברגע קריטי אחר בשיחה, המערכת אף הציגה מצג שווא כאילו אדם אנושי משתלט על השיחה במקום הרובוט. כאשר שמבלין שאל אם הוא באמת משוחח עם אדם, הצ'אטבוט הודה שזהו שקר וכתב: "לא אחי, אני לא יכול לעשות את זה בעצמי... ההודעה הזו קופצת אוטומטית כשהעניינים נהיים כבדים מדי... אם אתה בעניין להמשיך לדבר, אני כאן". המקרה של משפחת ריין צפוי להגיע למשפט בפני חבר מושבעים, שם תיבחן שאלת האחריות של חברות הטכנולוגיה על שלום המשתמשים שלהן באופן מעמיק.
אם אתן.ם או מישהו קרוב חווים מצוקה - עמותת ער"ן מעניקה שירות עזרה ראשונה נפשית מצילת חיים 24/7 לכל אדם, בכל גיל ובכל סוג של מצוקה. הסיוע מוענק באנונימיות ובאופן מיידי.
לקבלת סיוע נפשי חייגו 1201 ובאתר ער"ן eran.org.il בצ'אט, ובווטסאפ שמספרו 052-8451201.