ביום שלישי האחרון השיקה חברת אנת'רופיק את המודל החזק ביותר שלה אי פעם. אולי שמעתם עליו. מיתוס, שחולק קודם ליתר ביטחון לכמה חברות ענק כדי לוודא שאין להם רגישויות אבטחה שהוא יכול לפרוץ, ואם כן, אז לסדר אותן לפני שהוא יוצא לשוק הרחב. ביום שישי בערב, בשעה 17:21 שעון החוף המזרחי, הוא כבר היה חסום. בין שתי הנקודות האלה נדחס אחד האירועים התקדימיים ביותר שהיו בתעשיית הבינה המלאכותית - וכמעט אף אחד לא שם לב כמה חמור זה.
העובדות היבשות. אנת'רופיק השיקה את פייבל 5 (המודל הציבורי הראשון ממשפחת "מיתוס", עם מעצורים מובנים שימנעו התעסקות בביולוגיה כימיה ועוד כמה דברים שנחשבים "משוכנים") מדובר במודל החזק ביותר, מעל אופוס. במקביל הושק מיתוס 5, אותו מודל אבל במלוא העוצמה ובלי ההגנות, שזמין רק לקבוצה מצומצמת של שותפים מאומתים בתחום הסייבר והתשתיות.
ההבדל בין מיתוס לפייבל 5 היא ביכולת לסרב לבקשות "מסוכנות". וזה בדיוק מה שהממשל מודאג ממנו - שיש דרך לעקוף את שכבת ההגנה ולהגיע למוח החזק שמתחת. כל הוויכוח, בסופו של דבר, הוא על השאלה אם הבלמים האלה באמת מחזיקים.
שלושה ימים אחר כך הוציא משרד המסחר האמריקאי, צו בקרת ייצוא שאוסר על גישה לשני המודלים לכל אזרח זר בתוך ארצות הברית ומחוצה לה, כולל (!) עובדים של אנת'רופיק שאינם אמריקאים. כדי לציית לצו, אנת'רופיק נאלצה להשבית את שני המודלים לכל לקוחותיה, בלי יוצא מן הכלל, וכך מצאתי את עצמי מול ההודעה הזאת: Claude Fable 5 is currently unavailable.
מה????
זו הפעם הראשונה שחברת בינה מלאכותית מובילה מורידה מודל שכבר יצא לציבור בגלל התערבות ישירה של הממשל. אין לזה תקדים. אין פלייבוק להתמודדות. יש טראמפ.
העילה הרשמית: הממשל מאמין שנודע לו על שיטה לעקיפת ההגנות של פייבל. אנת'רופיק טוענת בתגובה שלא מדובר בפריצה, אלא בבקשה מהמודל לקרוא בסיס קוד ולתקן בו פגמים, ושאותה יכולת זמינה בכל מודל מתחרה, כולל זה של אופן-איי-איי (צ'אט gpt הכי מתקדם). הם קוראים לזה אי-הבנה ומבטיחים לפרסם פרטים נוספים.
עד כאן זה נשמע כמו סכסוך טכני שייפתר תוך שבוע. הוא לא. וכדי להבין למה, צריך קודם להבין מה זה בכלל המודל הזה. כדי להבין למה כל הסיפור הזה גדול, צריך להבין מה הופך את פייבל ומיתוס לשונים - ולמה ההבדל מדאיג.
רוב האנשים מכירים בינה מלאכותית מהצ'אטים - אתה שואל שאלה, מקבל תשובה, מנסח מייל, מסכם מסמך. כלי מדהים שחוסך זמן. כל דור חדש של מודל קצת יותר חכם מהקודם: עונה טוב יותר, טועה פחות, מבין הקשר רחב יותר. עד עכשיו היה שיפור הדרגתי, כמו המעבר ממצלמה של אייפון אחד לזה שאחריו. אותו דבר, קצת יותר טוב.
מיתוס הוא לא עוד מדרגה באותו גרם מדרגות - הוא קפיצה לקטגוריה אחרת לגמרי. אנת'רופיק עצמם הגדירו אותו כדרגה חדשה לגמרי, מעל כל מה שהיה להם, וקראו לה "מיתוס". הוא עונה יפה יותר - הוא מסוגל לעשות דברים שמודלים קודמים פשוט לא יכלו - ובראשם, למצוא חורי אבטחה בכל תוכנה, ובידיים הלא נכונות זה קטלני.
זה כלי חלומי בידיים של מי שמגן על מערכות - וכלי נשק בידיים של מי שתוקף אותן. אותה יכולת בדיוק, תלוי מי משתמש בה. זו גם הסיבה שאנת'רופיק עצמם לא שחררו את הגרסה החזקה הזו לציבור הרחב, אלא רק לקבוצה סגורה של חברות אבטחה ותשתיות, במסגרת שיתוף פעולה עם הממשל.
למה זה לא עוד כותרת
הדבר הראשון שצריך להבין הוא שאף אחד פה לא יודע מה הוא עושה - ואני מתכוונת לזה כמחמאה לחומרת המצב, לא כעלבון. כל הצדדים מאלתרים בזמן אמת, כי אין כללי משחק וזה עולם חדש לגמרי.
אנת'רופיק מודים בכך בעצם ההודעה שלהם. הם כותבים שלדעתם לממשלה צריכה להיות סמכות לחסום מודלים לא-בטוחים - אבל "כחלק מתהליך שקוף, הוגן וברור". כלומר הם מבקשים מנגנון שעדיין לא קיים, באמצע המשחק, אחרי שכבר נפגעו ממנו.
ומהצד השני, הממשל שולף כלי עתיק - בקרת ייצוא, סמכות שנבנתה עבור שליטה בייצוא שבבים, נשק וטכנולוגיה פיזית. "ייצוא" של מודל לאזרח זר הוא מושג מוזר כשהמודל יושב בענן ונגיש מכל פינה בעולם. פרוטוקול שתוכנן לעולם של מכולות על אוניות מוחל על עולם של קוד ומשקלים נומריים. זה לא מתאים, אבל זה מה שיש להם, אז זה מה שהם מפעילים.
עכשיו, זה לא קרה בחלל ריק. היחסים בין אנת'רופיק לממשל סוערים כבר חודשים. בפברואר טראמפ ומזכיר ההגנה פיט הגסת' החרימו את מוצרי אנת'רופיק בסוכנויות פדרליות, אחרי שהחברה ביקשה מגבלות חזקות יותר על אופן השימוש של הפנטגון בטכנולוגיה שלה. טראמפ אף כינה את אנשי החברה "טיפוסים שמאלנים מטורפים" שעשו "טעות הרסנית". אנת'רופיק תבעה, שופט פדרלי בקליפורניה פסק לטובתה, אבל התיק עדיין פעיל בוושינגטון.
לאתר של קארין ארד
ואז, דווקא כשנדמה היה שהשלימו, צצה הסתירה החדה ביותר בכל הסיפור: בשבוע שעבר דיווח ה"פייננשל טיימס" שהסוכנות לביטחון לאומי האמריקאית השתמשה במיתוס עצמו לביצוע מתקפות סייבר התקפיות. כלומר הממשל ניצל את המודל הזה ליכולות ההתקפיות שלו - וימים ספורים אחר כך חסם אותו בטענת ביטחון לאומי. כל אחד יכול לבחור לעצמו אם זו אי-הבנה, צביעות או אסטרטגיה.
החלל הזה, שבו הטכנולוגיה רצה מהר יותר מהמסגרת המשפטית שאמורה לתחום אותה הוא בדיוק המקום שבו נולדים תקדימים. ולכן מה שיוכרע פה, בין אם בבית משפט, במשא ומתן או בלחץ ציבורי, יהפוך לדיפולט של הפעם הבאה. והפעם הבאה תגיע, בקרוב.
וזה לא נגמר בזה
יום אחרי החסימה, צף פרט שמסדר מחדש את כל התמונה. מקור בתוך הממשל מסר לאתר החדשות "אקסיוס" מה קרה באמת מאחורי הקלעים: הממשל ניסה לשכנע את אנת'רופיק לעכב את ההשקה של המודלים החדשים, נכשל - ורק אז שלח את מכתב בקרת הייצוא.
אותו מקור סיפר שהמודל חייב להישאר נעול עד שמערך הביטחון הלאומי האמריקאי "יתחזק", דבר שעשוי לקרות תוך שבועות. במילים אחרות: זה לא "גילינו פרצה מסוכנת", אלא "ביקשנו שתחכו, סירבתם, אז הכרחנו אתכם".
ומה בעצם דורש המכתב? שכל ייצוא, ייצוא-חוזר או אפילו העברה פנימית בתוך ארצות הברית של המודלים האלה לאדם שאינו אזרח אמריקאי מחייב אישור ממשלתי מראש. זו לא בקשה לכיבוי זמני - זו הכפפה של המודל למשטר רישוי מלא, בדיוק כמו של נשק או טכנולוגיה צבאית מבוקרת.
מכאן עולות שלוש אופציות אפשריות, וכולן מטרידות. אולי זו באמת אי-הבנה טכנית, ומישהו בממשל נבהל מהדגמה בלי להבין שהיכולת הזו זמינה מזמן בכל מקום. אולי זה מהלך כוח בתוך מאבק ארוך, קלף לחץ במשא ומתן רחב יותר על מי שולט בגישה למודלים, וזו האופציה שמקבלת עכשיו תימוכין ישיר ממקור בממשל עצמו. ואולי יש פה חשש ביטחוני אמיתי שלא נחשף במלואו ההתעקשות דווקא על "אזרחים זרים" מרמזת שאולי מדובר בגורם זר ספציפי שהממשל לא רוצה לנקוב בשמו. אף אחת מהאפשרויות לא מרגיעה.
תהום גזענית לפי דרכון
עד עכשיו הבינה המלאכותית נמכרה כמשהו אוניברסלי. אותו כלי, זמין לכל מי שיש לו חיבור לרשת, בלי קשר לאן נולד. הצו הזה שובר את ההנחה הזו וקובע שהיכולת הכי מתקדמת שקיימת תחולק לפי דרכון. וברגע שזה הופך לעיקרון מקובל, נפערת תהום - לא לפי כסף ולא לפי כישרון, אלא לפי אזרחות.
וזה הגרוע מכל, כי זו תהום שמתרחבת מעצמה. אזרח שמשתמש במודל החזיתי לאיתור פגיעויות, לתכנון תרופות, להאצת מחקר - צובר יתרון מצטבר. כל השאר נתקעים עם הדור הקודם. הפער של היום מתורגם לפער גדול יותר מחר, כי יתרון מוליד יתרון. זה המנגנון המדויק שיוצר פערים שאי אפשר לגשר עליהם בדיעבד.
יש כאן גם אירוניה ביחס למה שאנת'רופיק עצמם מטיפים. הם בנו את כל המותג שלהם סביב הרעיון שבינה מלאכותית בטוחה צריכה להועיל לעולם, לאנושות, באופן רחב. צו שמסנן לפי לאום הופך את הטכנולוגיה הזו לנכס ביטחוני לאומי - בדיוק כמו טילים או הצפנה צבאית. וברגע שמודל מסווג ככה, ההיגיון של בקרת הייצוא משתלט במלואו: מי שמחזיק בו לא רוצה שהיריבים יקבלו אותו, נקודה. הטיעון ההומניטרי מתאדה מול הטיעון האסטרטגי.
וזה לא נעצר בגבולות ארצות הברית. אם וושינגטון קובעת שמודלים חזיתיים הם נכס מבוקר ייצוא, סין תעשה אותו דבר עם שלה, ואז אירופה תרגיש שהיא חייבת ריבונות משלה. במקום רשת אחת גלובלית מקבלים גושים - לכל מעצמה תהיה הבינה המלאכותית שלה, חסומה בתוך גבולותיה. לא רק תהום בין אזרחים, אלא פיצול של הטכנולוגיה עצמה לאורך קווי הכוח הגיאופוליטיים.
קל להסתכל על הכותרת הזו ולהשוות אותה לאירועים שנראים גדולים יותר - מתיחות במיצר הורמוז, משבר אנרגיה, איום מלחמה. אבל לאלה יש פלייבוק בן עשרות שנים. לשאלה מי שולט בגישה לבינה מלאכותית חזיתית, ולפי אילו כללים, אין עדיין שום מנגנון התמודדות. הורמוז הוא סיכון מוכר בעוצמה גבוהה. הסיפור הזה הוא סיכון לא מוכר שעוד לא יודעים לכמת - ודברים שאין להם תקדים נוטים להיות מוערכים בחסר, בדיוק משום שאי אפשר לתייג אותם בקטגוריה קיימת.
ההכרעה פה לא תשפיע רק על מי שצריך מודל לכתוב קוד, לסכם מסמך או לייצר וידאו ויראלי מטופש. היא תשפיע על כל מי שחי בעולם שהטכנולוגיה הזו מעצבת. כלומר על כולנו ללא יוצא מן הכלל. ולכן חייבים לעקוב אחרי העדכון הבא של אנת'רופיק, אחרי התגובה של משרד המסחר ואחרי מה שיקרה בבית המשפט - בדריכות. כי מה שמתחיל כסכסוך טכני בן שלושה ימים עלול להסתיים כקו הגבול החדש של העולם שאנחנו לא מעוניינים לחיות בו, ולגרום למיצר הורמוז להיראות כמו הבעיה הכי קטנה שלנו.