המרוץ של חברות הטכנולוגיה להפוך צ'אטבוטים מבוססי AI לכלי החיפוש החדש של האינטרנט מתחיל לחשוף גם צד אפל ומטריד במיוחד: בוטים שמספקים למשתמשים מספרי טלפון פרטיים של אנשים אמיתיים - לעיתים בלי שום קשר למה שנשאלו עליו. מומחי פרטיות כבר מכנים את התופעה "AI doxxing", ומזהירים שמערכות כמו Gemini של גוגל ו-ChatGPT של OpenAI עלולות להפוך מאגרי מידע ישנים, מידע שנקבר עמוק ברשת או אפילו פרטים מומצאים לחלוטין - למידע נגיש לכל אחד.
אחד המקרים הבולטים הגיע ממשתמש Reddit שטען כי המספר האישי שלו החל להופיע אצל Gemini כמספר טלפון של עסקים ובעלי מקצוע שונים. לדבריו, הוא מקבל ללא הפסקה שיחות מאנשים שמחפשים עורך דין, מנעולן או מעצב מוצר - כולם טוענים שהגיעו אליו דרך "ה-AI של גוגל".
"זו הפרת פרטיות ודליפת מידע בקנה מידה עצום", כתב המשתמש, שתיאר כיצד הטלפון שלו הפך למוקד שירות מאולתר עבור זרים מוחלטים. לטענתו, הפניות לגוגל לא הובילו לשום תגובה וההטרדות נמשכות מדי יום.
בחברת הפרטיות ClearNym טוענים שהבעיה עמוקה יותר מתקלה טכנית נקודתית. לדבריהם, מדובר בהתנגשות בין שנים של איסוף וסחר במידע אישי לבין מודלים של בינה מלאכותית שאומנו על כמויות עצומות של מידע מהרשת. "המידע הזה חוזר עכשיו כעותקים מדויקים, המצאות או אפילו כמספרי 'placeholder' עבור אנשים זרים", אמר דובר החברה ל-The Independent.
במקביל, חברות תקשורת ואבטחת מידע מזהירות שגם נוכלים כבר הבינו את הפוטנציאל. חברת Virgin Media O2 דיווחה לאחרונה כי עבריינים שותלים ברשת מספרי שירות מזויפים כדי שבוטי AI יציגו אותם למשתמשים כתוצאות אמינות. כך, אדם שמבקש מספר שירות לקוחות של חברת תעופה או בנק עלול להגיע ישירות לנוכל.
"פושעים יודעים שאנשים מחפשים תשובות מהירות", אמר מנהל מניעת ההונאות של החברה, מארי מקנזי. "כלי AI יוצרים הזדמנות חדשה לגרום למספרים מזויפים להיראות אמינים לחלוטין."
חוקרי אבטחה מחברת Aurascape הסבירו כי הנוכלים עושים זאת באמצעות "הרעלת תוכן" - הצפה מכוונת של הרשת במידע שקרי שמערכות AI סורקות ולומדות ממנו. "התוקפים משכתבים בשקט את האינטרנט שמערכות AI קוראות", אמר החוקר צ'י דנג.
מקרים אחרים כבר חצו, לכאורה, קווים מטרידים עוד יותר. לפי MIT Technology Review, Gemini הציג בטעות את המספר האישי של מהנדס התוכנה הישראלי דניאל אברהם כמספר שירות לקוחות של אפליקציית תשלומים. חוקרים מאוניברסיטת וושינגטון גילו גם הם עד כמה קל להוציא מידע אישי דרך Gemini.
דוקטורנטית בשם מאירה גילברט סיפרה כי חיפשה סתם כך את שמה של חברתה, יעל אייגר, במערכת - והבוט החזיר את מספר הסלולר הפרטי שלה. "זה היה מזעזע", אמרה. אייגר עצמה הודתה שהמידע אמנם היה קיים איפשהו ברשת, אבל היה buried עמוק מספיק כך שכמעט אף אחד לא היה מגיע אליו. "יש הבדל עצום בין מידע שקיים טכנית אונליין לבין AI שמנגיש אותו לכל אדם באופן מיידי", אמרה.
גם חברות שמתמחות בהסרת מידע אישי מהרשת מדווחות על עלייה בתלונות. מנכ"ל DeleteMe, רוב שבל, סיפר כי משתמשים מדווחים יותר ויותר על צ'אטבוטים שחושפים כתובות מגורים, מספרי טלפון, שמות בני משפחה ואפילו מקומות עבודה.
בגוגל טענו בתגובה כי קיימים מנגנוני הגנה שנועדו למנוע הופעת מידע אישי בכלי ה-AI של החברה וכי בקשות להסרת מידע נבדקות באופן פרטני. אלא שבשטח, משתמשים רבים טוענים שהטיפול איטי או לא קיים כלל.
ובתוך כל זה, מומחי אבטחה מזהירים שהסיפור רחוק מלהסתיים. ככל שכלי AI הופכים למנועי תשובות מרכזיים ברשת, גם עבריינים לומדים לנצל אותם. בארצות הברית כבר נרשמו מקרים שבהם נוכלים השתמשו בכלי חיקוי קול מבוססי AI כדי להתחזות לנכדים של קשישים ולבקש מהם כסף דחוף בטלפון. לפי הרשויות בלונג איילנד, הנוכלים אוספים קטעי וידאו מטיקטוק ומרשתות חברתיות אחרות, מייצרים מהם קולות סינתטיים משכנעים - ואז מפעילים לחץ רגשי על הקורבנות.
"הם תמיד מנסים להישאר צעד אחד קדימה", אמר מפקד משטרת מחוז סאפוק, קווין קטלינה. לדבריו, ההונאות הופכות "מתוחכמות יותר ויותר" ככל שטכנולוגיות ה-AI משתפרות.