בינה מלאכותית שמצליחה להעתיק את עצמה ממחשב למחשב, להפעיל עותקים נוספים ולהמשיך להתפשט ברשת בלי שאדם ינחה אותה בכל שלב. זה כבר לא רק תרחיש תיאורטי: חוקרים מחברת Anthropic, המפתחת של Claude, הצליחו להדגים את היכולת הזאת בניסוי מבוקר, במסגרת מחקר שפורסם אתמול (שני).
התוצאות מעוררות דאגה בעיקר בגלל מה שעשוי לקרות בהמשך. החוקרים מעריכים שמודלים קטנים של בינה מלאכותית עשויים להגיע בחודשים הקרובים ליכולת לשכפל את עצמם גם במכשירים חכמים. המשמעות האפשרית היא רשת של עותקי AI שפועלים במקביל, בלי נקודת שליטה מרכזית אחת שאפשר פשוט לכבות.
בניסוי שנערך ברשת מבוקרת של שמונה מכשירים וירטואליים, המודל GLM-5.2 הצליח להגיע לכל שמונת המכשירים בארבעה מתוך חמישה ניסיונות. בניסיון החמישי הגיע לשבעה מכשירים. עם זאת, החוקרים הקלו במכוון על שלב החדירה למכשירים, והמודל עצמו פעל על שרת נפרד. כלומר, עדיין לא מדובר בבינה מלאכותית שהוכיחה יכולת לפרוץ ולהתפשט בעצמה בין מכשירים אמיתיים.
תוכנות שמסוגלות להעתיק את עצמן ולעבור בין מחשבים קיימות כבר עשרות שנים. ההבדל הוא שמודל AI אינו חייב להסתמך רק על הוראות שנכתבו מראש. הוא עשוי לזהות את סביבת המחשב שאליה הגיע, להתמודד עם תקלות ולמצוא בעצמו דרך להמשיך את התהליך. זו בדיוק היכולת שהופכת את המחקר למעניין, וגם למעורר דאגה.
החוקרים בדקו גם אם מודלים מסוגלים ללמוד מהטעויות של עותקים אחרים ולשפר את הביצועים שלהם. מודל ממשפחת Qwen קיבל מידע על שגיאות ופתרונות של עותקים אחרים, והצליח לשפר את שיעור ההצלחה שלו בהקמת סביבת הפעלה. כך, ניסיון אחד יכול לסייע לניסיון הבא, גם בלי שאדם יצטרך לפתור מחדש כל תקלה.
לפי הערכת חוקרי Anthropic, אם קצב ההתקדמות הנוכחי יימשך, מודלים קטנים יותר עשויים להגיע לרמת היכולת הדרושה לשכפול עצמאי בתנאי ניסוי עד סוף 2026. זו תחזית בלבד, ולא הוכחה לכך שמערכת כזו מסוגלת להתפשט כיום בעולם האמיתי.
ב-Anthropic לא מסתירים את החשש מהשלב הבא. החוקרים מזהירים מפני אפשרות שבעתיד יפעלו מערכות AI על פני מכשירים רבים, חלקן ללא שליטה אנושית ישירה. במצב כזה, כיבוי של שרת מרכזי אחד כבר לא בהכרח יספיק כדי לעצור אותן. לדבריהם, לצד פיתוח אמצעי הגנה, צריך להיערך גם לאפשרות שמערכות כאלה יהפכו לחלק מהמציאות. זה עדיין לא מה שהודגם בניסוי, אבל הוא ממחיש כיצד יכולות שבעבר דרשו התערבות אנושית מתחילות לעבור לידי הבינה המלאכותית עצמה.