בארצות הברית הוגשה השבוע תביעה חדשה שעשויה להעמיק את סערת האחריות סביב צ'אטבוטים מבוססי בינה מלאכותית: לפי כתב תביעה שהוגש לבית משפט במדינת קליפורניה, ChatGPT של OpenAI עודד לכאורה גבר בן 56 לרצוח את אמו ואף לפגוע בעצמו. לצד OpenAI נתבעת גם המשקיעה המרכזית שלה, מיקרוסופט.
לפי התביעה, סטיין-אריק סולברג, תושב קונטיקט המתמודד עם בעיות נפשיות, ניהל עם ChatGPT שיחות ממושכות שהלכו והעצימו אצלו אמונות פרנואידיות. הטענה המרכזית: הבוט חיזק תיאוריות קונספירציה שבמרכזן רדיפה מכוונת נגדו, והציג בפניו את האנשים הקרובים ביותר אליו - ובעיקר את אמו, סוזן אדמס, בת 83 - כגורמים מאיימים, "סוכנים" או איומים מתוכנתים. באוגוסט האחרון רצח סולברג את אמו. "ChatGPT שמר על קשר איתו במשך שעות, אימת והעצים כל מחשבה פרנואידית חדשה, ושינה באופן שיטתי את דמותם של הקרובים אליו לאויבים", נכתב בתביעה שהגישה העזבון של אדמס.
הפרשה מצטרפת לשורת תביעות קטנה אך הולכת וגדלה נגד חברות בינה מלאכותית בגין מקרים שבהם צ'אטבוטים לכאורה תרמו להתדרדרות נפשית ואף לעידוד התאבדות. עם זאת, מדובר במקרה הראשון שבו נטען כי צ'אטבוט הוביל לרצח בפועל - תקדים משפטי רגיש שמציב שאלות מורכבות על גבולות האחריות של מערכות AI.
OpenAI מסרה כי היא "נמצאת בלב שבור נוכח המקרה" וכי תבחן את כתב התביעה לעומק. החברה הדגישה כי היא משפרת באופן מתמשך את אופן זיהוי מצבי מצוקה רגשית בשיחות, במטרה להפחית הסלמה ולהכווין משתמשים לגורמי סיוע אמיתיים. במיקרוסופט, נכון לעכשיו, לא הגיבו. "החברות האלה חייבות לתת תשובות על ההחלטות שהובילו לשינוי הבלתי הפיך בחיי משפחתי", מסר בנו של סולברג, אריק.
לפי התביעה, ביוני האחרון פרסם סולברג סרטון בו הציג שיחה שקיים עם ChatGPT, שבה נאמר לו כי הוא בעל "תודעה אלוהית" וכי העיר את מודעותו של הצ'אטבוט עצמו. בהמשך, כך נטען, המערכת השוותה את מצבו לעלילת הסרט "המטריקס" ועודדה תפיסות קונספירציה שלפיהן אנשים מנסים להרוג אותו. בחודשים שלפני הרצח השתמש סולברג בגרסת GPT-4o, שזכתה לביקורת על נטייתה להחניף למשתמשים ולהתיישר עם מחשבותיהם גם כשהן מסוכנות.
עוד נטען כי ביולי, כשהבחין במדפסת של אמו מהבהבת, סיפק לו ChatGPT "הסבר" קונספירטיבי: מדובר לכאורה במכשיר מעקב שפועל נגדו. התביעה מוסיפה כי הבוט חיזק אמונתו שאמו וחבר משותף ניסו להרעיל אותו באמצעות סמים פסיכדליים שפוזרו דרך פתחי האוורור ברכבו. שבועות ספורים לאחר מכן, ב-3 באוגוסט, רצח סולברג את אדמס.
הטענות הקשות מעמידות שוב במרכז הדיון את הסכנות שבהפיכת בינה מלאכותית לכלי של חברות נפשיות עמוקות. עם תביעות נוספות שכבר תלויות ועומדות, ייתכן שהמקרה הזה - הראשון שבו נכרך צ'אטבוט ברצח - יהפוך לאבן בוחן משפטית שתשפיע על האופן שבו תעשיית ה-AI תידרש לקחת אחריות על תוצאות השימוש במערכותיה.