רשת זוועות: טיקטוק שוב מעוררת סערה, והפעם הסכנה אורבת דווקא מאחורי מסכה של חמידות. טרנד חדש ומטריד במיוחד מציף את הפלטפורמה, כשסרטונים אלימים במיוחד מתחפשים לתכנים תמימים בעזרת פילטר בינה מלאכותית שהופך את הדמויות - שעוברות רצח או אלימות קשה - למיניונים. מה שהתחיל כבדיחה, הפך במהרה לפרצה מסוכנת שמאפשרת חשיפה של ילדים ובני נוער לתכנים קשים ומזעזעים.
איך זה עובד? הכול התחיל בדצמבר 2024, כאשר מודל הבינה המלאכותית Runway הציע פילטר חדש שהופך כל דמות בסרטון לדמות של מיניונים, כולל הוספת אפקטים קוליים. בעוד שרוב השימושים בפילטר נותרו תמימים ומשעשעים, משתמשים מסוימים החלו לנצל אותו לההעלת תכנים קשים מהרשת האפלה: סרטוני אלימות, פשע ואירועים טראומטיים אחרים.
הפילטר משבש את האלגוריתמים של טיקטוק, שמתקשים לזהות את התוכן האמיתי שמסתתר מאחוריו והסרטונים הללו מגיעים ישירות ל"דפי הפור יו" של משתמשים - כולל ילדים ובני נוער - שמתחילים לצפות בהם מבלי להבין מה עומד לקרות.
@jumpers_go_jump Be Careful of the Minion AI Content
♬ original sound - Jumpers Jump Podcast
בעוד שטיקטוק טוענת להשקעה בטכנולוגיות סינון מתקדמות, תופעות כאלה מדגישות את כשלי המערכת. הדיווחים על כך שטיקטוק לא מסירה את הסרטונים למרות תלונות מרובות רק מעצימים את הביקורת על הפלטפורמה. התופעה של סרטוני זוועה מוסווים מדגישה עד כמה מסוכן לאפשר לילדים להשתמש ברשתות חברתיות בגיל צעיר. לצד זה, הסקרנות סביב סרטוני הזוועה עלולה לגרום לצעירים לחפש את הגרסאות הלא מצונזרות.