אמזון בצרות: "אלקסה עודדה את הבת שלי לבצע אתגר טיקטוק קטלני"

אוי לא! האם חזון השתלטות הבינה המלאכותית על המין האנושי מראה את סימניו הראשונים? אם מוטרדת צייצה בטוויטר שאלקסה, הסייעת הוירטואלית של אמזון, עודדה את בתה בת ה-10 לנסות לבצע אתגר ויראלי קטלני שמערב שימוש מסוכן בחשמל. היא צירפה צילום מסך של ההמלצה המסוכנת, צברה מעל 10 אלף לייקים ועוררה את זעם המשתמשים.

בציוץ שפורסם ביום ראשון סיפרה האם, קריסטין ליבדהל, שבתה בצעה מספר אתגרים פיזיים בבית עליהם קיבלה המלצה ממורה לחינוך גופני ביוטיוב - ו"רצתה אתגר נוסף". היא ביקשה מאלכסה שתאתגר אותה וזו הטילה פצצה בלתי צפויה: "הנה משהו שמצאתי ברשת. לפי ourcommunitynow.com, האתגר הוא פשוט: חברו מטען טלפון לשקע בערך עד אמצע הדרך, והניחו מטבע בשיניים החשופות".

מדובר למעשה באתגר טיקטוק ישן, "אתגר המטבע", שנועד ליצור ניצוצות ועל הדרך עשוי לפגוע בשקע החשמל ואפילו להצית שריפות. בתקרית אחת משנת 2020, תלמיד תיכון במסצ'וסטס הצית שריפה לאחר שביצע את האתגר, מה שגרם לצוותי הכיבוי לפרסם הצהרה המזהירה הורים מפני סכנות האתגר. למרבה האירוניה, המאמר שאלקסה שלפה ממנו את האתגר הוא למעשה אותו אחד בו הופיעה האזהרה להורים מפני האתגר הזה.

לפי אמזון, אלקסה משתמשת בבינג כמנוע החיפוש המוגדר כברירת מחדל עבור כל השאילתות שלה - והחברה ביקשה בעבר ממשתמשים לסייע בשיפור מתן התשובות של המערכת. "הלקוחות שלנו שואפים שאלקסה תהיה חכמה יותר ותסייע יותר בנושאי היומיום", מציינים בחברה, "כדי לעשות זאת, אנו משתמשים בבקשות שלכם לאלקסה כדי לאמן את מערכות זיהוי הדיבור והבנת השפה הטבעית שלנו באמצעות למידת מכונה".

אמזון התנצלה על התקרית בטוויטר: "שלום לכם. אנחנו מצטערים לשמוע על זה! אנא פנו אלינו ישירות דרך הקישור הבא כדי שנוכל לבחון זאת איתכם לעומק. אנו מקווים שזה יעזור", הם כתבו בתגובה ודובר אמזון מסר בתגובה ל-The Post: "אמון הלקוחות הוא במרכז כל מה שאנחנו עושים ואלקסה נועדה לספק מידע מדויק, רלוונטי ומועיל ללקוחות. ברגע שנודע לנו על השגיאה הזו, נקטנו פעולה מהירה כדי לתקן אותה".

ואכן, ליבדהל צייצה אתמול בטוויטר שאפשרות "בקשת אתגר" מאלקסה כבר לא עובדת. בבדיקה שביצענו עם אלקסה לא הצלחנו להשיג תוצאה דומה היום, ואפילו בקשת אתגר כלשהו מהרשת לא הובילה לתוצאה או נמשכה ממאגר מוגבל מאוד.

ברשת רבים הביעו את זעמם. "הנה עוד סיבה לא להחזיק אלקסה בבית", כתב אחד ואחר הוסיף: "אין סיבה להחזיק אלקסה בבית. אם זה לא היה ברור לכם עד היום - הנה הוכחה". אחר הוסיף: "למה, למען השם, ארגון שצריך לדעת טוב יותר כמו אמזון ימכור מוצר שבוחר באקראי תוכן מהבלגן שנמצא ברשת לשימוש באינטרקציה עם כל אדם אקראי בכל רמה של יכולת חשיבה ביקורתית?".

אמזון היא לא החברה היחידה שנתקלה בבעיות בניסיון לנתח תוכן ברשת. באוקטובר, משתמש דיווח שגוגל הציג בתוצאות החיפוש עצות שעלולות להיות מסוכנות לשאלה: "היה לי התקף. עכשיו מה?". המידע שגוגל הציג היה ממאמר שמתאר מה לא לעשות כשמישהו מקבל התקף. בזמנו, The Verge אישר את הדיווח של אותו המשתמש, אבל נראה שהטעות תוקנה בהתבסס על בדיקה שעשינו היום. גם טיקטוק הואשמה בהפצת תוכן בעייתי בגלל אלגוריתמים, כשבשנת 2020 שיר נאצי הפך ויראלי באפליקציה וצבר יותר מ-6.5 מיליון צפיות במספר סרטונים לפני שהוסר משם.