במהלך ראיון ל-Decoded, הניוזלטר והפודקאסט היומי החדש של POLITICO שעוסק בטכנולוגיה ומדיניות, התייחס מנכ"ל OpenAI סם אלטמן לאחת השאלות המרכזיות שמלוות את מרוץ הבינה המלאכותית: כמה סיכון אנחנו מוכנים לקבל בתמורה ליתרונות של הטכנולוגיה.
"אנחנו מאמינים שהעולם צריך לקבל שדברים רעים מסוימים יקרו, בתמורה ליתרונות של הטכנולוגיה הזו", אמר אלטמן בשיחה עם כתב POLITICO ברנדן בורדלון.
אלטמן הסביר כי מבחינתו פריצות, הונאות ושימוש לרעה במערכות AI הם סיכונים אמיתיים, אבל ניסיון למנוע אותם לחלוטין עלול לחייב הגבלות כבדות מדי על הטכנולוגיה ועל הגישה אליה. לדבריו, ההנחה שמנחה את OpenAI היא שבני אדם ישתמשו בבינה מלאכותית להרבה יותר דברים טובים מאשר רעים.
במהלך השיחה התייחס אלטמן גם למתחרה Anthropic ולגישה השונה שלה לסיכוני הבינה המלאכותית. לדבריו, עדיין קיים "פער גדול" בין תפיסות העולם של שתי החברות. הוא הסתייג מגישה שבה מספר קטן של חברות מחזיק בטכנולוגיה החזקה ביותר ומחליט מי רשאי להשתמש בה, וכינה אפשרות כזו "פשרה בלתי מתקבלת על הדעת".
הדברים של אלטמן מגיעים אחרי חודשים של ניסויים מטרידים בסוכני AI, שבהם תועדו מודלים שפרצו למערכות, עקפו הוראות, הסתירו פעולות ואף ניסו להשיג את מטרותיהם בדרכים שלא התבקשו לבצע. המקרים האלה הפכו את החשש מאובדן שליטה על AI מתרחיש תיאורטי לשאלה ממשית שמעסיקה את התעשייה.
ועדיין, גם מבחינת אלטמן יש גבול לסיכון שהעולם צריך להיות מוכן לקבל. כשמדובר בתרחישים קטסטרופליים, ובמיוחד באפשרות של אובדן שליטה משמעותי על מערכות AI מתקדמות, מבחינתו עובר הקו האדום.