בעוד שארגונים בכל המגזרים דוהרים לעבר אימוץ טכנולוגיית בינה מלאכותית כדי לייעל תהליכים, מתברר כי המהפכה הזו מייצרת "חור שחור" חדש באבטחת המידע. מחקר חדש של TrendAI, החטיבה העסקית של ענקית הסייבר טרנד מיקרו, חושף כיצד מה שמכונה "כישורי AI" הופכים לנקודת התורפה הקריטית של הארגון המודרני. החוקרים מזהירים כי מיומנויות אלו, המכילות את ה-DNA הארגוני, סודות מסחריים ומנגנוני הגנה, הפכו למטרה אטרקטיבית עבור תוקפים, בזמן שמרבית המנהלים כלל אינם מודעים לסיכון.
לפי צוות החוקרים, הכולל את קיריל גלפנד, אדריכל פתרונות אסטרטגיים ב-TrendAI ישראל, לצד ולדימיר קרופוטוב ופיודור ירוצ'קין, "כישורי AI" הם למעשה טקסטים בפורמט היברידי. מדובר בשילוב של הוראות בשפה אנושית יחד עם לוגיקה שמודלי שפה גדולים יודעים לפרש ולבצע. המיומנויות הללו מקפלות בתוכן מומחיות אנושית ותהליכי עבודה פנימיים, המאפשרים אוטומציה ושימור ידע בקנה מידה רחב. הבעיה המרכזית היא שכלי אבטחה מסורתיים פשוט אינם מסוגלים לנתח טקסט לא-מובנה שכזה, מה שמותיר את הלוגיקה הארגונית חשופה לחלוטין ללא הגנה מתאימה.
האיום הזה כבר מזמן אינו נמצא רק במישור התיאורטי. המחקר מצביע על כך שבמאגרי קוד פומביים, דוגמת GitHub, קיימות כבר מאות מיומנויות החושפות פרמטרים תפעוליים רגישים של חברות וארגונים. תוקפים יכולים לנתח את המיומנויות הללו בקלות, להבין את הדרך שבה הארגון מקבל החלטות ולתכנן מתקפות ממוקדות שעוקפות את מערכות ההגנה הקיימות. המיומנות, שנועדה לייעל את העבודה, הופכת למעשה למדריך פריצה מפורט שנכתב על ידי הארגון עצמו.
בישראל, הסיכון מקבל משנה תוקף נוכח המציאות הביטחונית. המלחמה האיצה את אימוץ כלי ה-AI בארגונים מקומיים, בעיקר בשל מחסור חמור בכוח אדם שנבע מגיוס מילואים ממושך. הצורך באוטומציה מהירה הוביל לפריסת מערכות בינה מלאכותית בקצב מואץ, לעיתים על חשבון בדיקות אבטחה מעמיקות. עבור מגזרי הביטחון, האנרגיה והבריאות בישראל, מדובר באיום מוחשי ומיידי - הלוגיקה העסקית הרגישה ביותר של המשק הישראלי חשופה כעת במשטח תקיפה לא קונבנציונלי שטרם זכה למענה הגנתי הולם.