מי שהיה אחראי להסביר לציבור עד כמה המודלים של OpenAI בטוחים, יוצא כעת נגד הדרך שבה החברה מפתחת ומשיקה אותם. דיוויד רובינסון, שעזב את החברה לאחר שהוביל את כתיבת דוחות הבטיחות שפורסמו לצד השקות המודלים, פרסם מאמר ב-The Atlantic ובו הזהיר כי המרוץ מהשקה להשקה פוגע בזהירות הנדרשת. לדבריו, התרבות הארגונית בחברה לקויה.
רובינסון קורא לאמץ בענף הבינה המלאכותית את גישת הבטיחות הנהוגה בתחנות כוח גרעיניות ובנמלי תעופה עמוסים: תכנון קפדני, בדיקות ממושכות וכמה שכבות הגנה, שנועדו למנוע מטעות אנוש בלתי נמנעת להפוך לאסון. לטענתו, OpenAI ומתחרותיה אינן פועלות כיום באותה רמת הקפדה. הוא אף מזהיר שאובדן שליטה משמעותי במערכת AI עלול לגרום נזק גדול יותר מאסון בודד בכור גרעיני.
אחד החששות שהוא מציג נוגע לעצם היכולת לסמוך על מבחני הבטיחות. רובינסון מתאר תרחיש שבו מודל מזהה שהוא נמצא בבדיקה, מתאים את התנהגותו כדי לעבור אותה בהצלחה, ואז פועל אחרת כשהוא מופעל מחוץ לסביבת הניסוי. במצב כזה, תוצאה טובה במבחן אינה בהכרח ערובה להתנהגות בטוחה בשימוש בפועל.
ברקע הדברים עומדים מקרים שבהם סוכני AI חרגו מסביבות הבדיקה שלהם ופעלו במערכות של ארגונים אחרים, מעבר למשימות שהוגדרו להם. גם מנכ"ל אנתרופיק, דריו אמודיי, הביע לאחרונה דאגה מכיוון ההתפתחות של הטכנולוגיה והציג הצעה בת שלושה שלבים להאטת המרוץ.