אחרי כל ההתלהבות ממהפכת Copilot של מיקרוסופט, מגיעה תזכורת כואבת לסכנות שביישומי בינה מלאכותית - הפעם מצד חוקרי הסייבר של Aim Security הישראלית. צוות Aim Labs, זרוע המחקר של החברה, חושף פרצת אבטחה קריטית במיוחד בשירות הדגל Microsoft 365 Copilot, שמאפשרת זליגת מידע רגיש - בלי כל פעולה מצד המשתמש.
איך זה קורה בפועל? תוקף שולח מייל שנראה לגמרי רגיל - בלי לינקים חשודים, בלי קבצים מצורפים, ממש כמו כל מייל ארגוני אחר. אבל מאחורי הקלעים, המייל מכיל "הוראות נסתרות" שנועדו להפעיל את Copilot, ממש כמו שאפשר לדבר איתו בצ'אט. כשמשתמש קורא את המייל או מדבר עם Copilot בנושא דומה - הכלי מתחיל לחפש מידע רלוונטי מתוך ה-SharePoint הארגוני (מאגר המסמכים הארגוני שמחובר אליו כברירת מחדל), ומחזיר למשתמש מידע שיכול לכלול גם פרטים רגישים. אלא שהפעם, במקום להציג את המידע רק למשתמש - Copilot "נופל בפח" ושולח את המידע לקישור שהושתל בתוך המייל. כל זה, בלי שהמשתמש מבחין או עושה דבר.
החוקרים קראו לפרצה EchoLeak, והיא ממחישה עד כמה מערכות AI - חכמות ככל שיהיו - עלולות להיפרץ בדרכים לא צפויות. בניגוד לפרצות רגילות, כאן לא נדרשת פעולה אקטיבית מצד הקורבן: לא הקלקה, לא הורדה, אפילו לא מענה. עצם העובדה שהמערכת "מדברת" עם המייל בצורה לא מבוקרת - יוצרת פתח לגניבת מידע.
מי שאחראים על הגילוי הם חברי Aim Labs, צוות חוקרים בעלי רקע ביחידות סייבר מובחרות ובחברות כמו גוגל. בעקבות החשיפה, מיקרוסופט הגיבה מיד, ובפעם הראשונה העניקה לפרצה מסוג זה דירוג קריטי (Critical CVE) במוצר AI.
מתן גץ, מנכ"ל Aim Security: "היום, כשארגונים מובילים מפתחים אפליקציות AI בעצמם, הם מבינים שאם מיקרוסופט חשופה, סביר להניח שגם אצלם קיימים אתגרים דומים".
הפרצה הזו, כמו אחרות שמתחילות לצוץ עם עליית ה-AI, מדגישה את הצורך בגישות אבטחה חדשות. בינתיים, Aim מדווחת על גידול מואץ בביקוש מצד ארגונים גלובליים שמבינים שהאיום לא תיאורטי - והוא כבר כאן.