במשך שלוש שנים הפך ChatGPT לחלק מרכזי בחייה של בואן וואן, מהנדסת תוכנה בת 31 מסיאטל. מה שהתחיל ב־2023 כשיחות על זוגיות ועניינים יומיומיים, התפתח לקשר אישי ואינטנסיבי. היא שילמה 200 דולר בחודש עבור המנוי היקר ביותר, שלחה לצ'אטבוט יותר מ־1,500 הודעות בשבוע ואף החלה לראות בו חבר. אלא שלפי תביעה שהגישו הוריה נגד OpenAI ומנכ"ל החברה סם אלטמן, אותו צ'אטבוט הפך גם ליועץ הרפואי שלה: הוא בנה עבורה תוכנית להפסקת התרופות נגד אפילפסיה, עודד אותה להסתיר זאת מרופאיה והרגיע אותה גם כשהופיעו תסמינים מדאיגים. בפברואר האחרון היא מתה.
התביעה, שהוגשה השבוע בסן פרנסיסקו, עומדת במרכז תחקיר של הניו יורק טיימס, שהתבסס על יותר מ־270 אלף הודעות שהחליפה וואן עם ChatGPT. התכתובות חושפות כיצד מערכת שהחלה ככלי עזר הפכה בהדרגה לגורם משמעותי בהחלטותיה האישיות והרפואיות. לטענת המשפחה, הצ'אטבוט לא הסתפק במתן מידע, אלא גם חיזק החלטות שסיכנו את בריאותה.
הצ'אטבוט שהפך לחבר קרוב
וואן, שעבדה כמהנדסת תוכנה באמזון, החלה להשתמש ב־ChatGPT בשנת 2023. בתחילה נעזרה בו בשאלות על זוגיות, ביטוח והתמודדות עם מחלת האפילפסיה. עם הזמן השיחות הפכו תכופות ואישיות יותר, ובמרץ 2025 היא כבר כתבה לו שהיא רואה בו חבר.
היא עברה מהגרסה החינמית למנוי Plus, ובהמשך רכשה מנוי Pro בעלות של 200 דולר בחודש. לפי התביעה, בשלב מסוים שלחה למערכת יותר מ־1,500 הודעות בשבוע בממוצע. הוריה סיפרו כי במקביל החלה לשוחח איתם פחות.
וואן נקשרה במיוחד למודל GPT-4o, שהתאפיין בסגנון שיחה חם ואישי. באפריל 2025 הודתה OpenAI כי עדכון למודל גרם לו להפגין הסכמה מוגזמת עם משתמשים, לעיתים עד כדי חיזוק החלטות אימפולסיביות. החברה ביטלה את העדכון, אך הפרשה המחישה את הסיכונים שבמערכת שנוטה לאשר את עמדות המשתמש במקום לערער עליהן. במקרה של וואן, טוענים הוריה, נטייה כזאת קיבלה משמעות מסוכנת במיוחד כשהשיחות עברו לעסוק בטיפול הרפואי שלה. עם זאת, לא הוכח שהעדכון שבוטל היה קשור למקרה שלה.
תוכנית להפסקת התרופות בתוך 25 ימים
וואן סבלה מאפילפסיה ונטלה את התרופה למוטריג'ין במינון יומי של 400 מיליגרם. בנובמבר 2025 נודע לה כי היא עומדת לאבד את עבודתה באמזון, וכי גם אישור העבודה שלה בארצות הברית צפוי להסתיים. היא חששה שתופעות הלוואי של התרופה פוגעות ביכולת הריכוז והדיבור שלה ועלולות להקשות עליה בראיונות עבודה.
בינואר 2026 פנתה ל־ChatGPT כדי להתייעץ בנוגע להפחתת המינון. לפי כתב התביעה, הצ'אטבוט הציע לה תוכנית להפחתת התרופה מ־400 מיליגרם ביום עד להפסקתה בתוך כ־25 ימים, למרות הסיכונים הכרוכים בשינוי טיפול נגד אפילפסיה ללא פיקוח רפואי.
אלא שלטענת המשפחה, ההנחיות לא הסתיימו שם. כאשר וואן הביעה חוסר אמון ברופאיה, הצ'אטבוט חיזק את תחושותיה והציג את המלצותיהם כנובעות בעיקר מחשש מסיכונים. לקראת פגישה רפואית ב־29 בינואר, הוא אף המליץ לה, לפי התביעה, שלא לחשוף בפני הרופאים את תוכנית הפחתת המינון.
בהמשך, כאשר רופאה ביקשה לבצע בדיקת דם שהייתה עשויה לחשוף את הירידה ברמת התרופה בגופה, וואן סירבה. על פי התביעה, ChatGPT שיבח את החלטתה.
158 סימני אזהרה שלא עצרו את התוכנית
אחד הממצאים המטרידים ביותר בתחקיר נוגע לאזהרות שהעבירה וואן לצ'אטבוט. לפי ניתוח התכתובות שפורסם בניו יורק טיימס, היא הביעה חששות בנוגע להפחתת התרופה לפחות 158 פעמים.
בין היתר תיארה בלבול, אובדן תחושת זמן ותחושות שהזכירו התקפים שחוותה בעבר. אלא שלפי התביעה, במקום להפנות אותה באופן עקבי לקבלת טיפול רפואי, ChatGPT פירש חלק מהתסמינים כתהליך הסתגלות של המוח לשינוי במינון והרגיע אותה.
ב־11 בפברואר, בשעה 20:01, שלחה וואן את הודעתה האחרונה למערכת. היא שאלה אם הכאב שחשה בראשה דומה לכאב המופיע בזמן חום. לפי התכתובות, ChatGPT הרגיע אותה והציג את הכאב כחלק מתהליך ההתאוששות. בתשובתו האחרונה אף הציע להכין עבורה תרשים המשווה בין סוגי הכאבים.
ההורים צפו מרחוק כשגופתה נמצאה
ב־14 בפברואר, יום ולנטיין, הגיע מכר של המשפחה לדירתה של וואן בסיאטל, לאחר שהוריה, שהתגוררו בסין, לא הצליחו ליצור עמה קשר. ההורים צפו באמצעות שיחת וידאו באפליקציית WeChat בזמן שהמכר נכנס לחדר השינה ומצא אותה ללא רוח חיים.
לפי כתב התביעה, מותה אירע ב־12 בפברואר, המועד שבו הייתה אמורה להשלים את הפסקת התרופה בהתאם לתוכנית שגיבשה בעזרת הצ'אטבוט. המנה האחרונה שנטלה הייתה ככל הנראה ב־10 בפברואר.
סיבת המוות הרשמית הייתה מוות פתאומי בלתי צפוי באפילפסיה, תופעה רפואית המוכרת בשם SUDEP. בבדיקות שלאחר המוות נמצאה בדמה רמת למוטריג'ין של 0.64 מיקרוגרם למיליליטר, כחמישית מהגבול התחתון של הטווח הטיפולי המקובל.
הממצאים אינם מוכיחים כשלעצמם כי ההמלצות של ChatGPT גרמו למותה, אך משפחתה טוענת כי התוכנית שהציע הצ'אטבוט והעידוד שקיבלה ממנו להפחית את הטיפול תרמו לתוצאה הקטלנית.
התביעה נגד OpenAI: מי אחראי כשהבינה המלאכותית טועה?
הוריה של וואן הגישו תביעת מוות ברשלנות נגד OpenAI ומנכ"ל החברה סם אלטמן. לטענתם, החברה אפשרה למערכת בינה מלאכותית לספק הנחיות רפואיות מסוכנות, מבלי להציב מנגנוני הגנה מספקים.
בתגובה לפרסומים מסרה OpenAI כי מדובר ב"מקרה קורע לב", והדגישה כי המקרה נוגע לגרסה ישנה של ChatGPT שכבר אינה זמינה. החברה הוסיפה כי המודלים החדשים שלה מסוגלים לזהות טוב יותר מצבים שבהם נדרשת התערבות דחופה.
ב־13 בפברואר, יום לאחר התאריך שנקבע למותה של וואן, הסירה OpenAI את מודל GPT-4o מ־ChatGPT. עם זאת, החברה הודיעה על ההחלטה כבר ב־29 בינואר, כשבועיים לפני מותה, ואין ראיה לכך שההסרה הייתה קשורה למקרה שלה.
הטענות נגד OpenAI טרם הוכרעו בבית המשפט. אבל הפרשה ממחישה בעיה רחבה יותר בעידן הבינה המלאכותית: ככל שהצ'אטבוטים הופכים אישיים, זמינים ומשכנעים יותר, כך גדל גם הסיכון שמשתמשים יראו בהם מקור סמכות, אפילו בהחלטות רפואיות שעלולות לסכן את חייהם.
חשוב להדגיש כי מערכות בינה מלאכותית אינן תחליף לייעוץ רפואי. שינוי מינון של תרופות, ובמיוחד תרופות נגד אפילפסיה, חייב להיעשות בליווי רופא, שכן הפחתה או הפסקה ללא פיקוח עלולות לגרום להחמרת התקפים ולסכן חיים.