מחקר חדש שפורסם על ידי מיקרוסופט חושף כי גורמים סיניים המפעילים מבצעי השפעה פוליטיים החלו להשתמש בבינה מלאכותית (AI) על מנת לעורר מחלוקות במדינות כמו ארצות הברית וטייוואן. על פי הדוח, הקמפיינים הסיניים עושים שימוש בטכנולוגיה בעיקר ליצירת תכנים ויזואליים שנועדו לעורר סכסוך לקראת תקופת בחירות. דוגמה לכך היא קליפים קוליים שנוצרו באמצעות בינה מלאכותית בהם מוצגת מועמדת לנשיאות טייוואן בצורה שקרית. הקליפים פורסמו ברשתות החברתיות בניסיון להשפיע על הבוחרים לטובת המועמדת המועדפת על בייג'ין.
למרות שיוטיוב הסירה במהירות את התוכן לפני שהספיק להגיע לקהל משתמשים רחב, המקרה מדגיש את היכולת של ממשלות לייצר תכנים מזויפים על כמעט כל נושא. "זוהי הפעם הראשונה שבה יחידת המודיעין על איומים של מיקרוסופט נתקלת במדינה המשתמשת בתוכן בינה מלאכותית כדי לנסות ולהשפיע על בחירות זרות", ציינו החוקרים.
אותה קבוצה סינית יצרה גם שורה של תכנים חדשים הכוללים מגישי חדשות שנוצרו באמצעות בינה מלאכותית, והשתמשה בסרטונים אחרים שנוצרו באמצעות בינה מלאכותית כדי להטריד פוליטיקאים קנדים בשנה שעברה. התכנים המזויפים מקודמים באמצעות רשת של 175 אתרים ביותר מ-58 שפות ועוסקים לעתים קרובות באירועים גיאופוליטיים בולטים - במיוחד כאלה שמציגים את ארצות הברית באור שלילי.
דוגמאות לפייק ניוז כוללות טענות הזויות על כך שנשק אמריקאי גרם לשריפות הענק בהוואי, או שקרים על תוכנית סודית של יפן להטמין פסולת רדיואקטיבית באוקיינוס השקט. בנוסף, ניסתה הרשת לקדם תיאוריות קונספירציה הזויות סביב תאונת רכבת בקנטקי בחג ההודיה האחרון. מיקרוסופט חשפה גם כי איתרה חשבונות מדיה חברתית מזויפים, המזוהים עם המפלגה הקומוניסטית הסינית, אשר התחזו לבוחרים אמריקנים והגיבו לכתבות חדשות במטרה ליצור מחלוקת.
בנוסף, לצד ניסיונותיה של סין להשתמש בבינה מלאכותית יוצרת ובמודלים גדולים של שפה, נצפו גורמים מצפון קוריאה משתמשים בכלים אלו כדי לשפר את מתקפותיהם על מגוון מטרות. מיקרוסופט אמרה שרוב המיקוד של צפון קוריאה ממשיך להיות על חברות מטבעות קריפטוגרפיים ובביצוע תקיפות על שרשרת האספקה של תוכנות, במטרה לממן את תוכנית הנשק שלה.
"באופן מדאיג במיוחד, מיקרוסופט ו-OpenAI גילו כי גורם צפון קוריאני המכונה 'Emerald Sleet' משתמש בכלים המופעלים על ידי מודלי שפה גדולים כדי להפוך את פעולותיו ליעילות ומוצלחות יותר", אמרו בחברה.