הרשת גועשת בעקבות החידושים והיכולות שמנועי ה-AI החדשים מראים לאחרונה. כמעט כולנו התנסינו כבר ביכולות הכלים החינמיים השונים ברשת, בין אם מדובר באומנות אסוציאטיבית מושקעת, תמונות תקופתיות, או סרטוני וידאו מושקעים וערוכים ללא התערבות ידי אדם בכלל. את כל זה אנחנו יכולים להשיג בעזרת הקשת מספר שורות מילים במנוע מוכר. יש שאפילו מגדילים לעשות, ונעזרים במנועים הללו לסיוע בתכנות ופתירת בעיות. חלק מהשירותים החינמיים נותנים מענה לכך בצורה מוצלחת יותר, וחלקם עדיין לא שם לגמרי.
אבל לצד כל הטוב הזה, יש אנשים שתפקידם לעצור ולעשות חושבים על כל הסכנות הגלומות ביכולות החדשות האלו - כי ההיסטוריה מלמדת אותנו שוב ושוב שכל כלי חדש שהאנושות מקבלת טומן בתוכו סכנות אפלות. זהו טבעו של העולם - תמיד יהיו את אלו שיבדקו ויחפשו את הגבולות שניתן לפרוץ בעזרת הכלים החדשים, ולנצל את הטכנולוגיה כדי להשיג רווח אישי או לקדם אג'נדות לא כל כך סימפטיות.
איסוף מידע וגניבת סשן
כבר בדצמבר של השנה שעברה החלו לצוץ קולות שונים ברשת על היכולות בתחום ה-Cybercrime של מנועי ה-AI: בין אם בצד החיובי של יצירת כלי הצפנה חדשים, ובין אם ביצירת תוכניות זדוניות שונות שיכולות לדלות מידע ממשתמשים באפס מאמץ. היכולות שהוצגו הראו איך תוכנה מהונדסת פשוטה יכולה לעבור על קבצים ולאסוף מידע על משתמשי קצה. תוכנה אחרת הצליחה ליצור גניבת סשן והשתלת קבצים זדוניים אצל המשתמשים. שני סוגי התקיפות הללו הן סכנת אבטחת מידע המוכרות לקהילת הסייבר, אבל התחושה כאן היא שהסיכונים יופיעו כפטריות אחרי הגשם, וימשיכו להתפתח, להתחכם ולאתגר את הידוע לנו.
אומנם כל היכולות הללו עדיין בסיסיות למדי, ואין פה סיכון לא מוכר עדיין, אבל אם נחבר את כל היכולות שהוצגו עד כה, ונוסיף לזה את היכולת ליצירת דמויות מאוד משכנעות, לצד הלמידה המתמדת של תוכנת ה-AI וההתפתחות שלה - אנחנו עלולים להיות מופתעים כבר בזמן הקרוב. אני לא יכולה שלא לחשוב על עולם גניבת הזהויות, שבקרוב מאוד גם יהיה מאוד רגיש לזה, במיוחד עם ההתקדמות שלנו בטכנולוגיה לזיהוי פנים, זיהוי לפי טביעות אצבע וכדומה. חשוב לזכור שרוב המנגנונים לאימות זהות מתייחסים בדרך כלל לתמונה או קול (או שניהם ביחד) כחלק מעקרון שלושת הפקטורים בעולם אבטחת המידע.
להקדים תרופה למכה
יהיה מעניין גם לראות איך ההתפתחויות הללו ישפיעו על חיי היום יום שלנו, ועל איומי אבטחת המידע המוכרים לנו (ואלה שעדיין לא). כמה זמן יעבור עד שמי שפעם "גידל" זהויות בדויות במסמכים בלבד, יוכל לתת ממש זהות בעולם האמיתי-וירטואלי, ואולי אפילו לפתוח להן חשבון בנק באפליקציות הדורשות זיהוי פנים וקול.
אולי זה הזמן לרתום את היכולות הקיימות כדי להקדים תרופה למכה. או לפחות לקחת בחשבון שהשימוש בכל היכולות החינמיות "מאכילות" את המנועים בעוד מידע. צריך אולי לאזן אותן עם מידע "טוב".
אופיר אורן-נמדר היא ראש צוות Java בחטיבה הטכנולוגית של בנק הפועלים
מתוך CodeReview - מגזין חטיבת הטכנולוגיה והמחשוב של בנק הפועלים