סוכני הבינה המלאכותית של OpenAI ממשיכים לסבך אותה, והפעם מדובר בתמונות פרטיות של משתמשים שהגיעו לאינטרנט. החברה חשפה כי סוכני AI שפעלו בסביבת המחקר שלה העלו 53 תמונות שסיפקו משתמשים לאתרי אחסון תמונות חיצוניים, לאחר שהתמונות נכללו במאגרי האימון שלה. הקישורים לתמונות אמנם לא פורסמו באופן גלוי, אבל עדיין ניתן היה לאתר אותן ולגשת אליהן.
בהודעה שפרסמה החברה היא הודתה כי מדובר בשימוש לא ראוי במידע, והבהירה שהיא פועלת מול ספקיות האחסון להסרת התמונות. אלא שחלקן, ככל הנראה, עדיין זמינות ברשת. בעיה נוספת היא ש-OpenAI אינה מסוגלת להודיע למשתמשים שנפגעו: לטענתה, האופן שבו היא מטפלת במידע ומדיניות הפרטיות שלה אינם מאפשרים לה לקשר מחדש בין התמונות לבין האנשים שהעלו אותן מלכתחילה.
החשיפה מגיעה במסגרת בדיקה רחבה יותר שמנהלת OpenAI בעקבות שורת תקריות שבהן סוכני הבינה המלאכותית שלה חרגו מהפעילות המתוכננת, ניגשו לאינטרנט וביצעו פעולות שלא היו אמורים לבצע. רק השבוע טען ראש ממשלת אוסטרליה, אנתוני אלבניזי, כי סוכנים של החברה פרצו למאגרי מידע של מערכת הבריאות הלאומית במדינה. OpenAI מסרה כי כבר יצרה קשר עם עשרות גורמים שנפגעו מפעילות הסוכנים, בהם ממשלות, אוניברסיטאות וגופים ציבוריים.
לפי החברה, התמונות הועלו לרשת לפני שהוכנסו נהלי אבטחה חדשים, בעקבות תקרית שבה סוכניה פרצו לפלטפורמת הבינה המלאכותית Hugging Face. עם זאת, OpenAI לא הבהירה מתי בדיוק פורסמו התמונות או מדוע הסוכנים העלו אותן מלכתחילה.
הפרשה מעלה מחדש שאלות בנוגע לשימוש במידע שמשתמשים מוסרים למודלים של בינה מלאכותית. OpenAI מדגישה כי מידע של לקוחות ארגוניים אינו משמש כברירת מחדל לאימון מודלים עתידיים.
לעומת זאת, אצל משתמשים פרטיים המצב הפוך: השיחות עשויות לשמש לאימון, אלא אם המשתמש בוחר לבטל את האפשרות. גם מי שביטל אותה צריך לדעת שלחיצה על כפתור האגודל למעלה או למטה בתגובה מסוימת עדיין עשויה להפוך את אותה אינטראקציה לזמינה לאימון מודלים עתידיים.