ב-2024, על הבמה המרכזית של כנס המפתחים Google I/O, הכריזה גוגל על אחד השינויים הגדולים ביותר בתולדות מנוע החיפוש שלה. החברה הציגה לראשונה את AI Overviews - מערכת שמחליפה במקרים רבים את רשימת הקישורים המסורתית בסיכום שנכתב על ידי בינה מלאכותית ומופיע בראש העמוד. מבחינת גוגל, זו הייתה תחילתו של עידן חדש שבו מנוע החיפוש לא רק מפנה למידע ברחבי הרשת, אלא גם קורא אותו, מעבד אותו ומגיש למשתמש תשובה מוכנה. המהלך סימן את כניסתה הרשמית של הבינה המלאכותית אל לב המוצר החשוב ביותר של החברה, ושינה את האופן שבו מיליארדי אנשים צורכים מידע מדי יום.
אלא שהחזון הטכנולוגי הזה ספג לאחרונה מכה משפטית קשה, שעשויה לשנות לחלוטין את חוקי המשחק עבור החברה. בית משפט בגרמניה פסק כי גוגל תהיה אחראית באופן ישיר למידע שגוי שיופיע בפלטפורמת תקצירי הבינה המלאכותית שלה. המדינה, שמחזיקה בחוקים ברורים המגנים על מפעילי מנועי חיפוש מפני אחריות לתכנים של צד שלישי, הבהירה באמצעות פסיקת בית המשפט כי ההגנות הללו פשוט אינן תקפות כשמדובר בסיכומי ה-AI. השופטים סיווגו את גוגל כמפרה ישירה, מהסיבה שהמערכת מנסחת מחדש את המידע במילותיה שלה ועל פי מבנה פנימי שהיא קובעת, ובכך מייצרת טקסט עצמאי לחלוטין ולא רק מציגה רשימת תוצאות.
הפרשה המשפטית החלה בעקבות דיווח של אתר The Decoder, לפיו אלגוריתם ה-AI של גוגל הפיץ טענות כוזבות קשות נגד שני מוציאים לאור ממינכן. המערכת קישרה את הגופים הללו למעשי מרמה, "מלכודות מנויים" ופרקטיקות עסקיות מפוקפקות באמצעות שאילתות חיפוש מסוימות. בדיקת המקרה העלתה כי ה-AI ערבב מידע על חברות שונות לחלוטין, וייצר קשרים שלא הופיעו באף אחד מהמקורות המקושרים ואף לא היו קיימים במציאות. התקציר קבע בביטחון כי אחד הגופים מוכר בשל התנהלות בעייתית, תוך הצגת סיכומים וטיפים למשתמשים - כאשר בפועל נשאב המידע מישות עסקית אחרת ואף הומצאו טענות יש מאין שלא הופיעו בתוצאות החיפוש המקוריות. המוציאים לאור שלחו לגוגל מכתב התראה, אך משלא זכו למענה הולם, פנו לערכאות. בית המשפט המחוזי במינכן נעתר לבקשתם והוציא צו מניעה זמני האוסר על גוגל להמשיך להפיץ את המידע הכוזב על החברות הללו.
במהלך הדיון ניסתה גוגל להתגונן וטענה כי הגולשים יכולים לבדוק את הקישורים המצורפים כדי לאמת את נכונות הסיכום. בנוסף, החברה טענה כי המשתמשים מודעים לכך שאין לבטוח באופן עיוור במידע המופק על ידי בינה מלאכותית. מדובר בטענה בעייתית במיוחד, בהתחשב במהירות שבה נכפו התקצירים הללו על הגולשים. מחקרים עדכניים מראים כי המציאות בשטח שונה לחלוטין, ורק אחוז אחד בלבד מהמשתמשים אכן טורח ללחוץ על הקישורים לאחר קריאת התקציר.
ממדי התופעה של חוסר הדיוק בתוצאות הבינה המלאכותית מתבררים כנרחבים ומדאיגים. מחקר שפורסם בניו יורק טיימס מראה כי הפלטפורמה מספקת מידע שגוי בתשעה אחוזים מהמקרים. בהתחשב בדיווחי החברה על שני מיליארד משתמשים חודשיים המבצעים אינטראקציה עם המערכת - שהם כ-24 מיליארד בשנה - חישוב מהיר מראה כי מדובר בלמעלה משני מיליארד שאילתות שגויות מדי שנה. מדובר בהערכה שמרנית מאוד, לאור העובדה שבכל יום מתבצעים בגוגל כ-16.5 מיליארד חיפושים.
מעבר לכך, מחקר נוסף מצא בעיית מקורות חמורה: ב-56 אחוזים מהתשובות שנמצאו נכונות, המידע כלל לא נתמך על ידי הקישור המצורף, מה שמונע מהמשתמשים את היכולת לבקר את עבודת האלגוריתם. למי שמעוניין להתחמק מהטכנולוגיה הזו, קיימת דרך פשוטה: הוספת הביטוי "-ai" בתחילת כל שאילתת חיפוש תחזיר אתכם לתוצאות המסורתיות והמוכרות.