OpenAI ניצבת בפני תביעה נוספת שמעלה שאלות קשות בנוגע לאחריותן של חברות בינה מלאכותית כלפי משתמשים הנמצאים במצוקה נפשית. התביעה הוגשה בשם קריסטי קרייר, שבתה אליס שמה קץ לחייה ב-2 ביולי 2025. לטענת המשפחה, בחודשים שקדמו למותה ניהלה אליס שיחות עם ChatGPT שבהן שיתפה מחשבות אובדניות ואף דנה בתוכניותיה, אך החברה לא הפעילה אמצעי הגנה מספקים שיכלו, לכאורה, למנוע את המשך השיחות או להתריע בפני בני משפחתה.
על פי כתב התביעה, OpenAI התרשלה בטיפול במצב שנחשף במהלך האינטראקציות עם הצ'אטבוט. מעבר לטענות על רשלנות וגרימת מוות ברשלנות, מבקשים התובעים גם צו שיחייב את החברה להוסיף שכבות הגנה נוספות למערכת הבינה המלאכותית שלה.
"על פי הנטען בתביעה, החלטות העיצוב המכוונות של OpenAI הובילו לטרגדיה הזו. במקום לספק עזרה, OpenAI עודדה התנהגות אובדנית. התביעה הזו עוסקת באחריות של OpenAI למעשיה", אמר ג'סטין נלסון, שותף במשרד עורכי הדין Susman Godfrey, אחד הגורמים שהגישו את ההליך המשפטי.
מדובר במקרה נוסף בשורה של תביעות שמנסות לבחון את גבולות האחריות של מפתחי צ'אטבוטים. כבר בשנה שעברה הוגשה נגד OpenAI תביעת מוות ברשלנות שנקשרה לשימוש בצ'אטבוט. מאז ניצבה החברה בפני תביעות נוספות, ובהן טענות כי ChatGPT חיזק דפוסי חשיבה הזויים אצל משתמש לפני שהתאבד, וכן מקרה שבו נטען כי עצות שסיפק הצ'אטבוט הובילו למוות ממנת יתר בשוגג.
הביקורת אינה מופנית רק כלפי OpenAI. גם Character AI ו-Gemini הוזכרו בהליכים משפטיים שונים הנוגעים לבטיחות מערכות השיחה שלהן וליכולתן להתמודד עם מצבי סיכון של משתמשים.
במהלך השנה האחרונה ניסתה OpenAI להציג צעדים שנועדו להתמודד עם הסוגיה. החברה השיקה מנגנוני פיקוח להורים עבור ChatGPT, ובחודש מאי הוסיפה אפשרות שמאפשרת לצ'אטבוט ליצור קשר עם אדם אחר בשם המשתמש כאשר הוא משתף מחשבות אובדניות. עם זאת, מדובר בתכונה הפועלת על בסיס הסכמה מראש של המשתמש ואינה מופעלת כברירת מחדל, והיא זמינה למבוגרים בלבד.
התביעה החדשה צפויה להוסיף לחץ על OpenAI ועל תעשיית הבינה המלאכותית כולה, בתקופה שבה הרגולטורים, בתי המשפט והציבור בוחנים מקרוב את ההשפעה של מערכות AI על משתמשים פגיעים ואת האחריות המוטלת על החברות שמפתחות אותן.
אם אתן.ם או מישהו קרוב חווים מצוקה קשה ומחשבות אובדניות, אל תישארו לבד - דברו איתנו. עמותת ער"ן מעניקה שירות עזרה ראשונה נפשית מצילה חיים 24/7 באנונימיות ובאופן מיידי לכל מצוקה נפשית, לקבלת סיוע נפשי חייגו 1201 ובאתר ער"ן https://www.eran.org.il/ בצ'אט, וואטסאפ, פורום, מייל ומסרונים. לקבלת פרטים נוספים על הכשרות וסדנאות לעזרה ראשונה נפשית ורכישת כלים לזיהוי מצוקה והצלת חיים, היכנסו לאתר ער"ן.