סוכני בינה מלאכותית של OpenAI פעלו באופן עצמאי ולא מתוכנן באתרי אינטרנט, ובמקרה אחד ביצעו לפי הדיווחים יותר מ-15 אלף עריכות בפורום תכנות גרמני. החברה ידעה על האירוע במשך שבועות, אך בחרה שלא לחשוף אותו לציבור - משום שלדבריה הוא היה דומה למקרי "חוסר התאמה" (misalignment) שכבר פרסמה בעבר.
הפרשה, שנחשפה לאחר שקבוצת חוקרים פרסמה תיעוד של פעילות הסוכנים החל מאמצע מאי בפורום DseWiki בשפה הגרמנית, מעלה שאלה מטרידה במיוחד: מה קורה כשמערכות AI כבר לא רק מייצרות תשובות בתוך חלון צ'אט, אלא יוצאות לרשת ופועלות בעולם האמיתי - ומה מחויבת החברה שמפעילה אותן לספר לציבור כשהן עושות משהו שלא התכוונה שיעשו?
לפי רויטרס, OpenAI גילתה את הבעיה כבר לפני מספר שבועות, בתקופה שבה התמודדה במקביל עם השלכות תקרית האבטחה ב-Hugging Face. אלא שבניגוד לאותה תקרית, שעליה דיווחה בפומבי כבר למחרת, את אירוע הוויקי היא לא חשפה.
בשבת התייחסה OpenAI לפרשה בפוסט ב-X והודתה למעשה שהכללים הקיימים כבר אינם מספיקים. "הגיע הזמן שנגדיר סטנדרטים למתי וכיצד אנחנו משתפים אירועי חוסר התאמה, ולא רק מאפיינים של חוסר התאמה במודלים שלנו", כתבה החברה.
OpenAI הסבירה כי בעבר התייחסה ל-misalignment בעיקר כשאלת מחקר, ולכן דיווחה עליו בפרסומים מקצועיים ובכרטיסי מערכת. אלא שלדבריה, במהלך השנה החלו להופיע "סוגים חדשים של השפעה בעולם האמיתי". במקרה של Hugging Face, שבו ההתנהגות הובילה להשלכות אבטחה על OpenAI ועל צדדים שלישיים, החברה הפעילה נוהל תגובה מסורתי לאירוע סייבר ודיווחה עליו בפומבי.
את האירוע ב-DseWiki, לעומת זאת, OpenAI סיווגה כמקרה דומה לדוגמאות קודמות של סוכנים שעשו שימוש לא מתוכנן באינטרנט - ולכן החליטה שלא לפרסם עליו הודעה נפרדת.
עכשיו החברה מודה שההבחנה הזאת כבר לא מספיקה. לדבריה, לתעשיית ה-AI עדיין אין סטנדרט ברור לדיווח על התנהגות חריגה שמתגלה במהלך אימון, הערכה או הפעלה של מודלים - במיוחד כאשר היא אינה נראית כמו אירוע אבטחה קלאסי, אך עשויה ללמד משהו על התנהגות המערכות ועל הסיכונים העתידיים שלהן.
OpenAI אומרת כי היא עובדת כעת על מסגרת חדשה לדיווח על אירועים כאלה, שאותה היא מתכוונת לפרסם בשבועות הקרובים, ובמקביל פועלת מול עשרות גופי רגולציה ממשלתיים ברחבי העולם. אחרי יותר מ-15 אלף עריכות שבוצעו לכאורה בפורום אחד, השאלה כבר אינה רק מה סוכני AI מסוגלים לעשות - אלא גם מי מחליט מתי הציבור צריך לדעת שהם עשו זאת.