את הדיון הבוקר (שני) בוועדת הטכנולוגיה בכנסת, פתח דווקא יזהר ליפשיץ, שאביו, עודד ליפשיץ, חטוף בעזה. ליפשיץ הזכיר כי החטופים סובלים התעללויות, גם מיניות, הרעבה, ואלימות, והסביר שהמשך הלחימה משמעותו פחת חטופים. בהקשר של הדיון אמר כי השימוש בבינה מלאכותית נהיה ציני.
יושבת ראש הוועדה, חברת הכנסת אורית פרקש-הכהן ציינה כי המלחמה היא לא רק פיזית, אלא גם הסברתית. ישראל אינה מתמודדת באופן מספק בהסתה ומידע לא לגיטימי שמופץ ברשתות החברתיות, וטענה כי חרבות ברזל מכונה גם מלחמת ה-AI הראשונה. "הדבר הזה מתבצע בעזרת תמונות מזוייפות, אבל גם בעזרת טקסטים מזוייפים ופרופילים מזוייפים. השימוש בבינה מלאכותית ליצירת מידע כוזב מקדם תיאוריות קשר", ציינה חברת הכנסת. בפתח הדיון הוצגה תמונה שהיא השער של העיתון הצרפתי "ליברסיון" שבו נעשה שימוש בתמונה לא אותנטית.
אחיה שץ, מארגון פייק ריפורטר, הציג כמה נתונים מזעזעים, ובראשם העובדה כי לפי סקר 35% מהציבור היהודי מאמין לפחות בתיאוריית קשר אחת, כמו שאהוד ברק או הצבא קשרו קשר לפגוע בישראל. "הן קיימות ממש כאן ופוגעות בנו", אומר שץ. עוד הוא הזכיר מבצעים איראניים שבמסגרתם "מצליחים להגיע לאזרחים, ליצור קשרים, ולהפעיל אותם כך שיפגעו בנו. לפני שנקפוץ לבינה מלאכותית, צריך להבין שיש שקרים שנוצרים על ידי אנשים...43% תומכים בוועדת חקירה שתחקור האם השמאל תכנן את מתקפת החמאס - זה קשור לעולם של תיאוריות קשר שקשור גם אלינו", הוא מציין.
שץ הביא כמה דוגמאות לתמונות שלא היו לא נבראו והוא מציין שהיו להן מיליוני חשיפות. מנגד למשל, השחקן דווין ג'ונסון מחזיק שלט ומתעטף בדגל ישראל, גם הוא לא היה ולא נברא. הוא אמר כי מעט מאוד חינוך גורם לאנשים ליפול לשקרים הללו.
"ככל שהטקסטים יהיו מותאמים יותר לקהל הישראלי, יהיה אפשר לעשות להם הגדלה והרחבה (סקיילינג). הם יכולים לשנות דעה, ולהפעיל פה צבאות של אנשים בהפעלה משוטה ואפילו לבצע פעולות טרור.אף אחד לא מלמד את הציבור להתמודד עם התכנים האלה", סיכם שץ את דבריו.
ד"ר תהילה שוורץ אלטשולר מהמכון הישראלי לדמוקרטיה אמרה שלישראל אין סיבה לפגר בחקיקה לתחומים הדיגיטליים, ואין סיבה שהאזרח הישראלי לא יקבל את אותה הגנה חוקית מול ענקיות הטכנולוגיה שמקבל אזרח אירופי או אמריקאי. לפי אלטשולר, יוצרי הבינות המלאכותיות כמו סם אלטמן מ-OpenAI מבינים שיש תקלה, אבל הם לא יודעים איך לפתור אותה, ולכן הם מחכים שהרגולטורים יעשו זאת בשבילם. אלטשולר סיכמה את דבריה בקריאה להקים "פיקוד עורף דיגיטלי".
חלקו השני של הדיון הוקדש למענה של נציגי ענקיות הטכנולוגיה והרשתות החברתיות לצד אנשי הממשלה המטפלים בנושא ההסתה והתכנים המזוייפים ותומכי הטרור ברשת כיום.
הפרקליטות: עד כה לא הוסרו תכנים רק כי הם מזוייפים
נציג מיקרוסופט אמר בדיון כי הם כבר נמצאים במסע של 15 שנה לאתיקה בבינה מלאכותית, וצריך להיכנס למודלים של שותפויות בין המגזר הממשלתי למגזר הפרטי. נציג מטא התייחס לגבי סרטון מסית לטרור שהוצג שהוא דווקא לא פייק וציין כי אין לו אפשרות כרגע להתייחס אליו. "בעולם אידיאלי כשאנחנו לא בחג המולד, הייתי מביא מישהו מהחברה הגלובלית", אמר, ובכך אולי סיכם את הבעייתיות כולה - אנחנו תלויים בגופים שפועלים מחוץ לשטח השיפוט של מדינת ישראל, ותלויים בחסדיהם.
הנקודה היחידה אולי בדיון שירדה לעומק ביצועי, הייתה בשיח בין פרקש ובין ליאת גלזר מגוגל, שפתחה את דבריה וציינה שבדומה למיקרוסופט, גם גוגל לא חדשה בזירה הזו. "לגוגל יש כללי אחריות בבינה מלאכותית. יש מהלכים מדינתיים לרגולציה - אבל החברות הרציניות כבר שם. הן קבעו לעצמם סט של כללים", אמרה גלזר. "גם בכלי שלנו, בארד, יש אפשרות לקבל הסבר על התוצאות שאתה מקבל, מאיפה התוצאה הזו הגיעה".
פרקש שאלה אותה לגבי לוחות הזמנים של יישום מחסומי בטיחות. גלזר עונה שזה ביישום (אציין שפרקש לדעתי לא מבינה את ההיבטים הגלובליים של פרישת כלים מהסוג הזה, וכמה עברית לא בעדיפות אצל ענקיות הטכנולוגיה... - נ.ל.). גלזר גם מאזכרת את החתימות שמוטמעות ביצירות בינה מלאכותית (מעבר לסימן מים) כדוגמא ליישום בטוח.
עוד ציינה גלזר את הכללים החדשים שהחילה יוטיוב על יוצרים (יוטיוברים) לסמן תכנים שנוצרו בעזרת בינה מלאכותית. כלל משנה נוסף, הוא ייחוס לא נכון (הצגה של תמונה מאירוע אחד כשייכת לאירוע אחר, כמו למשל להציג תמונה מפיגוע בבלגיה כהפגנה בנמל תעופה בן גוריון).
עו"ד שרה גרין ממחלקת הסייבר בפרקליטות הסבירה כי איתור, זיהוי ואיסוף של תכנים מפירים נמצאים בידי גופי הביטחון, וגם במערך הסייבר. "אנחנו בוחנים את החומר וקובע שני תנאים מצטברים כדי להעביר פניה - שהתוכן מהווה עבירה פלילית, ושהתוכן מפר את כללי הקהילה של הפלטפורמה הרלוונטית. בצוות יש ארבעה פרקליטים ועוד 12 מתמחים וסטודנטים. מאז ה-7 באוקטובר דיווחנו על 30 אלף תכנים", אומרת גרין. "יש את סעיף 3 לחוק המחשבים, שמדבר על העברת מידע כוזב באמצעות מחשב. עד כה לא קיבלנו פניה להסיר תכנים רק כי הם פייק", העירה גרין.
נציג חברת ההזנק סיאברה, העוסקת בניטור שיח ברשתות לרבות משתמשים כוזבים, ציין את הנתון המדהים שב-7 וב-8 לאוקטובר, אחד מכל ארבעה חשבונות שעסק במתקפה היה חשבון מזויף. "בינה מלאכותית מחוללת מאפשרת ליצור פרופילים מזוייפים אמינים יותר. וזה משפיע על השיח הציבורי. 2024 תהיה שנת שיא במערכות בחירות - שני מיליארד אנשים יבחרו את מנהיגיהם, כולל בישראל כך נראה. ולכן העניין מקבל משנה חשיבות".
מחוללים סביב העניין האמיתי / פרשנות
הדיון היום בכנסת לא חידש רבות. העובדה שבישראל אין תשתית חקיקתית ספציפית לטפל בתכנים מזוייפים ומסיתים, ידועה לא מאתמול. פרקש-הכהן קצפה על אנשי הפרקליטות ומטא, אבל את הזעם האמיתי היא צריכה להפנות לעצמה, לחבריה בפרלמנט, ולראש הממשלה שבה סיעתה (המחנה הממלכתי) חברה כרגע. לפני כמה שנים קידמו השרים דאז ארדן ושקד חוק שיחייב רשתות חברתיות להסיר תכנים התומכים בטרור תוך 48 שעות. החוק הזה טורפד על ידי ראש הממשלה דאז והיום בנימין נתניהו ממש לפני הקריאה השלישית והפיכתו לחוק מחייב. יש הטוענים כי פעילות לוביסטית ישירה של פייסבוק מול נתניהו היא זו שטרפדה את החוק ברגע האחרון. מאז, אף מחוקק לא הרים את הכפפה וניסה לחוקק חוק דומה.
הדיון היה מנומס וזורם, אבל חולל, סליחה על משחק המילים, סביב העניין האמיתי מבלי לעסוק בו די: דרכים מעשיות ואפקטיביות להילחם בתכנים מזויפים כמו אוריינות דיגיטלית וחיזוק יכולות הבנת הנקרא של תלמידי ישראל שאינן בטוב, ושוב, היעדרה של תשתית חקיקתית, שבאמת תטיל אחריות מיידית על ענקיות הטכנולוגיה שפועלות כאן, כמו שיש חוקים מחייבים דומים באיחוד האירופי ובארצות הברית. כמו שאמרה אחת המשתתפות בדיון אין סיבה שנגרר מאחור - אחרת, הדיון יחזור על עצמו ללא תוצאות אפקטיביות גם במלחמה הבאה חלילה.