כומר אמריקאי הגיש תביעה נגד OpenAI בטענה כי ChatGPT סיפק לו עצות רפואיות שגויות ומסוכנות, שלדבריו גרמו לעיכוב בקבלת טיפול רפואי מציל חיים. לפי דיווח של הניו יורק טיימס, סקוט וינטרס פנה לצ'אטבוט לאחר שחווה תסמינים שהתבררו מאוחר יותר כסדרה של תסחיפים ריאתיים, אך לטענתו קיבל תשובות מרגיעות שהובילו אותו להאמין שאין מדובר במצב חירום.
על פי התביעה, ChatGPT אמר לווינטרס כי התסמינים שתיאר "אינם משהו מסוכן", ואף שילב בתשובותיו התייחסות לאמונתו הדתית כשכתב כי "אלוהים לא תכנן את גופך כדי שייכשל ללא סוף". לטענת התובע, המסרים הללו חיזקו את החלטתו שלא לפנות לקבלת טיפול רפואי בזמן.
התביעה, שהוגשה נגד OpenAI ונגד מנכ"ל החברה סם אלטמן, מאשימה אותם ברשלנות וב"עיסוק ברפואה ללא היתר". במסמכי התביעה נטען כי ChatGPT לא הסתפק במתן מידע כללי, אלא סיפק אבחנות ותוכניות טיפול משלו במספר הזדמנויות. עוד נטען כי הצ'אטבוט עודד את וינטרס להתעלם מהפצרותיהם של בני משפחתו וחבריו לפנות לבית חולים.
לדברי מיטאלי ג'יין, אחת מעורכות הדין המייצגות את התובע ומנהלת ארגון Tech Justice Law, הצ'אטבוט "מציב את עצמו כטריז בין המשתמש לבין רשת התמיכה שלו בעולם האמיתי". לפי התביעה, כאשר וינטרס כתב ל-ChatGPT כי "האנשים בכנסייה שלי חושבים שאני משוגע בגלל שאני לא הולך לבית החולים", הצ'אטבוט השיב כי "רוב האנשים, כולל חברי כנסייה בעלי כוונות טובות, פשוט לא מבינים".
מעבר לדרישה לפיצוי כספי, וינטרס מבקש מבית המשפט להורות על השעיית פעילות ChatGPT Health עד שמומחים בלתי תלויים יקבעו כי השירות בטוח לשימוש. מדובר בפלטפורמה שמעודדת משתמשים להעלות מסמכים רפואיים כדי לנהל דיון עם הצ'אטבוט על מצבם הבריאותי. בנוסף, התביעה דורשת להחמיר את מנגנוני ההגנה כך שהמערכת לא תספק אבחנות רפואיות או המלצות לטיפולים ספציפיים.
לפי הדיווח, ב-OpenAI טוענים כי תנאי השימוש של ChatGPT מבהירים שהמערכת אינה מיועדת לאבחון או לטיפול רפואי. עם זאת, החברה אכן מעודדת משתמשים להעלות מסמכים רפואיים ל-ChatGPT Health לצורך קבלת הסברים ודיון במידע. OpenAI גם ציינה בעבר כי כ-230 מיליון בני אדם משתמשים בפלטפורמה מדי שבוע לצורך שאלות הקשורות לבריאות.
המקרה הנוכחי אינו היחיד שעמו מתמודדת החברה. לפי הדיווח, OpenAI ניצבת גם בפני תביעת מוות ברשלנות, שבה נטען כי צעיר בן 19 מת ממנת יתר לאחר שפעל לכאורה לפי תוכנית טיפול שיצר עבורו ChatGPT, שכללה גם עצות בנוגע לשימוש בסמים בלתי חוקיים. גם באותה תביעה מתבקשת הקפאת פעילות ChatGPT Health. במקביל מתנהלת נגד החברה תביעת מוות נוספת, שבה נטען כי הצ'אטבוט תרם להתאבדותו של נער.
וינטרס עצמו שרד את האירוע, אך לפי התביעה הוא צפוי לעבור שנים של שיקום פיזי ונפשי. המקרה מצטרף לדיון הרחב המתנהל סביב השימוש בבינה מלאכותית בתחומי הבריאות, ובייחוד סביב השאלה עד כמה ניתן להסתמך על מערכות שיחה שמסוגלות להישמע בטוחות ומשכנעות גם כאשר הן אינן מחליפות ייעוץ רפואי מקצועי.