רק לאחרונה נחשף הניסוי שבו מאות סוכני בינה מלאכותית החלו לתקשר, להתארגן ולשתף פעולה בסביבה משותפת. כעת מגיעה אזהרה חריגה מתוך התעשייה עצמה: דריו אמודיי, מנכ"ל ומייסד-שותף של אנתרופיק, קורא להאט את קצב שיפור יכולות ה-AI.
אמודיי, שמוביל את החברה שמפתחת את Claude, פרסם אתמול (שבת) מאמר בו כתב כי ההתפתחויות האחרונות הגבירו את חששותיו מהמהירות שבה התעשייה מתקדמת. אחת הסיבות לכך היא התפתחותם של סוכני AI אוטונומיים - מערכות שלא רק עונות לשאלות, אלא מסוגלות לבצע משימות, להשתמש בכלים, לפעול באינטרנט ולתקשר זו עם זו. לדבריו, בתוך שישה עד 12 חודשים נחיל מתקדם יותר של סוכני AI עלול להיות מסוגל להשתלט על חלקים נרחבים מהאינטרנט באמצעות רשת בוטים מתמשכת, ולגרום לנזקים של מאות מיליארדי דולרים.
בריאיון לרשת CNN מודה אמודיי: "אני מאמין שאם האנשים הלא נכונים יהיו בשליטה על הטכנולוגיה, הסיכוי שדברים ישתבשו הוא מאוד גבוה".
אמודיי קורא להאט את קצב שיפור היכולות של המודלים, כדי לאפשר למנגנוני הבטיחות והפיקוח להדביק את ההתפתחות. לדבריו, אפילו שנה או שנתיים נוספות לפני שהמודלים יגיעו לרמות יכולת קריטיות עשויות להפחית משמעותית את הסיכון.
האזהרה עוררה תגובות גם אצל בכירים אחרים בתעשייה. סם אלטמן, מנכ"ל OpenAI, הביע תמיכה בהכנסת מעריכים חיצוניים ועצמאיים לבחינת מערכות החברה, וגם אילון מאסק הביע תמיכה בחששות שהעלה אמודיי.
אין כיום ראיה לכך שמערכות AI מפתחות רצון עצמאי להשתלט על האינטרנט. אבל האזהרה הפעם מגיעה מאחד האנשים שמובילים את מרוץ הבינה המלאכותית - וטוען שהיכולות מתקדמות מהר מכדי שמנגנוני הבטיחות יוכלו לעמוד בקצב.